dkqjrm/bge-m3-olive-phonetic-incremental-lora-continue

SentenceTransformer based on unsloth/bge-m3

This is a sentence-transformers model finetuned from unsloth/bge-m3 on the augmented-olive-product-phonetic-sentence-wo-negative dataset. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: unsloth/bge-m3
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 1024 dimensions
• Similarity Function: Cosine Similarity
• Training Dataset:
  • augmented-olive-product-phonetic-sentence-wo-negative

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'PeftModelForFeatureExtraction'})
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("dkqjrm/bge-m3-olive-phonetic-incremental-lora-continue")
# Run inference
sentences = [
    '[S~2XL SIZE] 시크릿데이 순한코튼 슬림핏 입는 오버나이트 4종 택1',
    'オーバーナイト 2XL はどこ',
    '야돔 가격 좀',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[ 1.0000,  0.4876,  0.0406],
#         [ 0.4876,  1.0000, -0.0641],
#         [ 0.0406, -0.0641,  1.0000]])

Training Details

Training Dataset

augmented-olive-product-phonetic-sentence-wo-negative

• Dataset: augmented-olive-product-phonetic-sentence-wo-negative at 7ff3a49
• Size: 4,379,592 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 6 tokens mean: 22.4 tokens max: 59 tokens	min: 3 tokens mean: 9.44 tokens max: 40 tokens

• Samples:

  anchor	positive
  네이처메이드 슈퍼 RTG 오메가-3 900mg 40캡슐 (20일분)	自然制造 欧米伽 多少钱
  [푸마] 여성 실키 터치 레이온 브라탑+팬티 블랙	레이온 브라탑 팬티
  순수식품 루테인&오메가3 9종복합기능성 30캡슐 (1개월분)	price of 30 capsules lutein

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false
  }
  

Evaluation Dataset

augmented-olive-product-phonetic-sentence-wo-negative

• Dataset: augmented-olive-product-phonetic-sentence-wo-negative at 7ff3a49
• Size: 230,504 evaluation samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 7 tokens mean: 22.16 tokens max: 52 tokens	min: 3 tokens mean: 9.23 tokens max: 35 tokens

• Samples:

  anchor	positive
  암앤해머 컴플리트케어치약 150g	アームアンドハンマー コンプリートケア はどこ
  [정신과의사조향/평정심] 이유즈 룸앤패브릭 스프레이 100ml 어웨어니스	이즈 룸앤패브릭 가격 좀
  볼제너뮬러 유기농 크런치 400g 아몬드헤이즐넛	クランチシリアル いくら

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim",
      "gather_across_devices": false
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 16
• gradient_accumulation_steps: 16
• learning_rate: 2e-05
• num_train_epochs: 1
• lr_scheduler_type: cosine
• warmup_ratio: 0.05
• fp16: True
• push_to_hub: True
• batch_sampler: no_duplicates

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 8
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 16
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 1
• max_steps: -1
• lr_scheduler_type: cosine
• lr_scheduler_kwargs: None
• warmup_ratio: 0.05
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• bf16: False
• fp16: True
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• project: huggingface
• trackio_space_id: trackio
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: True
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• hub_revision: None
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: no
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• liger_kernel_config: None
• eval_use_gather_object: False
• average_tokens_across_devices: True
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Click to expand

Epoch	Step	Training Loss	Validation Loss
0.0006	10	1.6392	-
0.0012	20	1.5723	-
0.0018	30	1.53	-
0.0023	40	1.4013	-
0.0029	50	1.2313	-
0.0035	60	1.107	-
0.0041	70	0.9602	-
0.0047	80	0.8375	-
0.0053	90	0.5983	-
0.0058	100	0.4745	-
0.0064	110	0.3776	-
0.0070	120	0.2617	-
0.0076	130	0.2035	-
0.0082	140	0.1866	-
0.0088	150	0.1364	-
0.0094	160	0.1425	-
0.0099	170	0.141	-
0.0105	180	0.1284	-
0.0111	190	0.1336	-
0.0117	200	0.1368	-
0.0123	210	0.1073	-
0.0129	220	0.1161	-
0.0134	230	0.1246	-
0.0140	240	0.12	-
0.0146	250	0.1367	-
0.0152	260	0.1366	-
0.0158	270	0.1266	-
0.0164	280	0.1264	-
0.0170	290	0.1111	-
0.0175	300	0.1004	-
0.0181	310	0.1086	-
0.0187	320	0.1264	-
0.0193	330	0.1062	-
0.0199	340	0.1083	-
0.0205	350	0.1098	-
0.0210	360	0.1019	-
0.0216	370	0.1066	-
0.0222	380	0.107	-
0.0228	390	0.1156	-
0.0234	400	0.1042	-
0.0240	410	0.1189	-
0.0246	420	0.0912	-
0.0251	430	0.0925	-
0.0257	440	0.095	-
0.0263	450	0.1019	-
0.0269	460	0.0975	-
0.0275	470	0.1029	-
0.0281	480	0.109	-
0.0286	490	0.0924	-
0.0292	500	0.1048	-
0.0298	510	0.0889	-
0.0304	520	0.0999	-
0.0310	530	0.1034	-
0.0316	540	0.1113	-
0.0321	550	0.0966	-
0.0327	560	0.1006	-
0.0333	570	0.105	-
0.0339	580	0.0922	-
0.0345	590	0.1019	-
0.0351	600	0.0954	-
0.0357	610	0.1013	-
0.0362	620	0.0941	-
0.0368	630	0.098	-
0.0374	640	0.0959	-
0.0380	650	0.109	-
0.0386	660	0.0969	-
0.0392	670	0.0868	-
0.0397	680	0.1076	-
0.0403	690	0.0859	-
0.0409	700	0.0902	-
0.0415	710	0.0949	-
0.0421	720	0.0781	-
0.0427	730	0.1123	-
0.0433	740	0.0952	-
0.0438	750	0.087	-
0.0444	760	0.0975	-
0.0450	770	0.0836	-
0.0456	780	0.092	-
0.0462	790	0.0956	-
0.0468	800	0.0803	-
0.0473	810	0.098	-
0.0479	820	0.0784	-
0.0485	830	0.0885	-
0.0491	840	0.0951	-
0.0497	850	0.1	-
0.0503	860	0.0897	-
0.0509	870	0.0897	-
0.0514	880	0.0858	-
0.0520	890	0.0926	-
0.0526	900	0.0886	-
0.0532	910	0.0828	-
0.0538	920	0.0831	-
0.0544	930	0.0901	-
0.0549	940	0.0812	-
0.0555	950	0.0865	-
0.0561	960	0.0867	-
0.0567	970	0.0883	-
0.0573	980	0.1048	-
0.0579	990	0.084	-
0.0585	1000	0.0982	0.0320
0.0590	1010	0.0862	-
0.0596	1020	0.0756	-
0.0602	1030	0.0792	-
0.0608	1040	0.0869	-
0.0614	1050	0.0789	-
0.0620	1060	0.082	-
0.0625	1070	0.0917	-
0.0631	1080	0.0992	-
0.0637	1090	0.0817	-
0.0643	1100	0.0837	-
0.0649	1110	0.0775	-
0.0655	1120	0.0875	-
0.0661	1130	0.0746	-
0.0666	1140	0.0777	-
0.0672	1150	0.081	-
0.0678	1160	0.0839	-
0.0684	1170	0.0779	-
0.0690	1180	0.081	-
0.0696	1190	0.0875	-
0.0701	1200	0.0923	-
0.0707	1210	0.0919	-
0.0713	1220	0.0921	-
0.0719	1230	0.0876	-
0.0725	1240	0.0976	-
0.0731	1250	0.0765	-
0.0737	1260	0.0876	-
0.0742	1270	0.0843	-
0.0748	1280	0.0771	-
0.0754	1290	0.0761	-
0.0760	1300	0.0914	-
0.0766	1310	0.0775	-
0.0772	1320	0.081	-
0.0777	1330	0.081	-
0.0783	1340	0.0987	-
0.0789	1350	0.0773	-
0.0795	1360	0.0881	-
0.0801	1370	0.0787	-
0.0807	1380	0.088	-
0.0812	1390	0.0895	-
0.0818	1400	0.074	-
0.0824	1410	0.0808	-
0.0830	1420	0.0756	-
0.0836	1430	0.0775	-
0.0842	1440	0.0818	-
0.0848	1450	0.0764	-
0.0853	1460	0.0811	-
0.0859	1470	0.0747	-
0.0865	1480	0.0787	-
0.0871	1490	0.0824	-
0.0877	1500	0.0685	-
0.0883	1510	0.0727	-
0.0888	1520	0.075	-
0.0894	1530	0.0832	-
0.0900	1540	0.0707	-
0.0906	1550	0.0833	-
0.0912	1560	0.0733	-
0.0918	1570	0.0745	-
0.0924	1580	0.0834	-
0.0929	1590	0.0695	-
0.0935	1600	0.0732	-
0.0941	1610	0.0705	-
0.0947	1620	0.0863	-
0.0953	1630	0.0828	-
0.0959	1640	0.0819	-
0.0964	1650	0.0787	-
0.0970	1660	0.0767	-
0.0976	1670	0.0798	-
0.0982	1680	0.0762	-
0.0988	1690	0.0801	-
0.0994	1700	0.0706	-
0.1000	1710	0.0727	-
0.1005	1720	0.0859	-
0.1011	1730	0.0755	-
0.1017	1740	0.0726	-
0.1023	1750	0.075	-
0.1029	1760	0.0699	-
0.1035	1770	0.08	-
0.1040	1780	0.0796	-
0.1046	1790	0.0832	-
0.1052	1800	0.0744	-
0.1058	1810	0.0812	-
0.1064	1820	0.0831	-
0.1070	1830	0.0922	-
0.1076	1840	0.0822	-
0.1081	1850	0.0848	-
0.1087	1860	0.0739	-
0.1093	1870	0.0691	-
0.1099	1880	0.0756	-
0.1105	1890	0.0815	-
0.1111	1900	0.0738	-
0.1116	1910	0.0823	-
0.1122	1920	0.0673	-
0.1128	1930	0.0814	-
0.1134	1940	0.0664	-
0.1140	1950	0.0778	-
0.1146	1960	0.0715	-
0.1152	1970	0.0828	-
0.1157	1980	0.0786	-
0.1163	1990	0.0552	-
0.1169	2000	0.0788	0.0270
0.1175	2010	0.0769	-
0.1181	2020	0.0715	-
0.1187	2030	0.0703	-
0.1192	2040	0.0747	-
0.1198	2050	0.0881	-
0.1204	2060	0.0727	-
0.1210	2070	0.0858	-
0.1216	2080	0.0783	-
0.1222	2090	0.0799	-
0.1228	2100	0.0767	-
0.1233	2110	0.0756	-
0.1239	2120	0.0717	-
0.1245	2130	0.0784	-
0.1251	2140	0.0764	-
0.1257	2150	0.0792	-
0.1263	2160	0.0788	-
0.1268	2170	0.0782	-
0.1274	2180	0.0805	-
0.1280	2190	0.0771	-
0.1286	2200	0.0746	-
0.1292	2210	0.0672	-
0.1298	2220	0.0807	-
0.1303	2230	0.0809	-
0.1309	2240	0.0725	-
0.1315	2250	0.0749	-
0.1321	2260	0.0724	-
0.1327	2270	0.0721	-
0.1333	2280	0.0648	-
0.1339	2290	0.0741	-
0.1344	2300	0.0735	-
0.1350	2310	0.0737	-
0.1356	2320	0.0834	-
0.1362	2330	0.0708	-
0.1368	2340	0.0743	-
0.1374	2350	0.0738	-
0.1379	2360	0.0765	-
0.1385	2370	0.0771	-
0.1391	2380	0.0662	-
0.1397	2390	0.079	-
0.1403	2400	0.0697	-
0.1409	2410	0.0698	-
0.1415	2420	0.0724	-
0.1420	2430	0.0718	-
0.1426	2440	0.0749	-
0.1432	2450	0.0806	-
0.1438	2460	0.0874	-
0.1444	2470	0.0744	-
0.1450	2480	0.0644	-
0.1455	2490	0.0725	-
0.1461	2500	0.069	-
0.1467	2510	0.0783	-
0.1473	2520	0.0737	-
0.1479	2530	0.0726	-
0.1485	2540	0.0771	-
0.1491	2550	0.0652	-
0.1496	2560	0.0805	-
0.1502	2570	0.071	-
0.1508	2580	0.0647	-
0.1514	2590	0.0715	-
0.1520	2600	0.0698	-
0.1526	2610	0.0706	-
0.1531	2620	0.0803	-
0.1537	2630	0.0688	-
0.1543	2640	0.0728	-
0.1549	2650	0.0701	-
0.1555	2660	0.0684	-
0.1561	2670	0.0726	-
0.1567	2680	0.0711	-
0.1572	2690	0.0687	-
0.1578	2700	0.0742	-
0.1584	2710	0.0651	-
0.1590	2720	0.0629	-
0.1596	2730	0.0766	-
0.1602	2740	0.0728	-
0.1607	2750	0.0745	-
0.1613	2760	0.0671	-
0.1619	2770	0.0688	-
0.1625	2780	0.0749	-
0.1631	2790	0.0793	-
0.1637	2800	0.0705	-
0.1643	2810	0.0704	-
0.1648	2820	0.0727	-
0.1654	2830	0.0758	-
0.1660	2840	0.0718	-
0.1666	2850	0.0789	-
0.1672	2860	0.0726	-
0.1678	2870	0.0665	-
0.1683	2880	0.0576	-
0.1689	2890	0.0734	-
0.1695	2900	0.065	-
0.1701	2910	0.0637	-
0.1707	2920	0.0698	-
0.1713	2930	0.0695	-
0.1719	2940	0.0756	-
0.1724	2950	0.0764	-
0.1730	2960	0.0692	-
0.1736	2970	0.0645	-
0.1742	2980	0.0774	-
0.1748	2990	0.064	-
0.1754	3000	0.0606	0.0247
0.1759	3010	0.0584	-
0.1765	3020	0.0793	-
0.1771	3030	0.0645	-
0.1777	3040	0.0609	-
0.1783	3050	0.0828	-
0.1789	3060	0.0633	-
0.1795	3070	0.0773	-
0.1800	3080	0.0708	-
0.1806	3090	0.0586	-
0.1812	3100	0.065	-
0.1818	3110	0.074	-
0.1824	3120	0.0643	-
0.1830	3130	0.0769	-
0.1835	3140	0.0651	-
0.1841	3150	0.0813	-
0.1847	3160	0.0576	-
0.1853	3170	0.0734	-
0.1859	3180	0.0772	-
0.1865	3190	0.0665	-
0.1870	3200	0.07	-
0.1876	3210	0.0718	-
0.1882	3220	0.0568	-
0.1888	3230	0.071	-
0.1894	3240	0.0672	-
0.1900	3250	0.0626	-
0.1906	3260	0.0771	-
0.1911	3270	0.0744	-
0.1917	3280	0.0669	-
0.1923	3290	0.075	-
0.1929	3300	0.07	-
0.1935	3310	0.0671	-
0.1941	3320	0.0665	-
0.1946	3330	0.0783	-
0.1952	3340	0.0629	-
0.1958	3350	0.0649	-
0.1964	3360	0.0643	-
0.1970	3370	0.0798	-
0.1976	3380	0.0661	-
0.1982	3390	0.0646	-
0.1987	3400	0.068	-
0.1993	3410	0.073	-
0.1999	3420	0.064	-
0.2005	3430	0.0754	-
0.2011	3440	0.066	-
0.2017	3450	0.0607	-
0.2022	3460	0.0692	-
0.2028	3470	0.0646	-
0.2034	3480	0.0712	-
0.2040	3490	0.0631	-
0.2046	3500	0.0691	-
0.2052	3510	0.0631	-
0.2058	3520	0.0659	-
0.2063	3530	0.0602	-
0.2069	3540	0.0537	-
0.2075	3550	0.0697	-
0.2081	3560	0.069	-
0.2087	3570	0.0804	-
0.2093	3580	0.0654	-
0.2098	3590	0.0651	-
0.2104	3600	0.08	-
0.2110	3610	0.074	-
0.2116	3620	0.0617	-
0.2122	3630	0.0684	-
0.2128	3640	0.064	-
0.2134	3650	0.0661	-
0.2139	3660	0.0682	-
0.2145	3670	0.0701	-
0.2151	3680	0.084	-
0.2157	3690	0.073	-
0.2163	3700	0.0718	-
0.2169	3710	0.0621	-
0.2174	3720	0.0636	-
0.2180	3730	0.0739	-
0.2186	3740	0.0648	-
0.2192	3750	0.0739	-
0.2198	3760	0.0736	-
0.2204	3770	0.0612	-
0.2210	3780	0.0586	-
0.2215	3790	0.0684	-
0.2221	3800	0.0701	-
0.2227	3810	0.0634	-
0.2233	3820	0.0729	-
0.2239	3830	0.0702	-
0.2245	3840	0.0765	-
0.2250	3850	0.0618	-
0.2256	3860	0.0728	-
0.2262	3870	0.065	-
0.2268	3880	0.0701	-
0.2274	3890	0.0719	-
0.2280	3900	0.0748	-
0.2286	3910	0.0675	-
0.2291	3920	0.0605	-
0.2297	3930	0.0708	-
0.2303	3940	0.0738	-
0.2309	3950	0.0582	-
0.2315	3960	0.0726	-
0.2321	3970	0.0667	-
0.2326	3980	0.0676	-
0.2332	3990	0.0773	-
0.2338	4000	0.0782	0.0228
0.2344	4010	0.0757	-
0.2350	4020	0.071	-
0.2356	4030	0.0652	-
0.2361	4040	0.0667	-
0.2367	4050	0.0663	-
0.2373	4060	0.0649	-
0.2379	4070	0.0576	-
0.2385	4080	0.0662	-
0.2391	4090	0.0766	-
0.2397	4100	0.0705	-
0.2402	4110	0.0719	-
0.2408	4120	0.0659	-
0.2414	4130	0.0649	-
0.2420	4140	0.0691	-
0.2426	4150	0.056	-
0.2432	4160	0.0684	-
0.2437	4170	0.0626	-
0.2443	4180	0.0621	-
0.2449	4190	0.0721	-
0.2455	4200	0.0717	-
0.2461	4210	0.0593	-
0.2467	4220	0.0696	-
0.2473	4230	0.0625	-
0.2478	4240	0.058	-
0.2484	4250	0.0711	-
0.2490	4260	0.0688	-
0.2496	4270	0.0687	-
0.2502	4280	0.0629	-
0.2508	4290	0.0721	-
0.2513	4300	0.0598	-
0.2519	4310	0.0628	-
0.2525	4320	0.075	-
0.2531	4330	0.0598	-
0.2537	4340	0.0646	-
0.2543	4350	0.0653	-
0.2549	4360	0.0635	-
0.2554	4370	0.0652	-
0.2560	4380	0.0571	-
0.2566	4390	0.069	-
0.2572	4400	0.0655	-
0.2578	4410	0.0674	-
0.2584	4420	0.0714	-
0.2589	4430	0.0654	-
0.2595	4440	0.0661	-
0.2601	4450	0.062	-
0.2607	4460	0.0652	-
0.2613	4470	0.0684	-
0.2619	4480	0.0617	-
0.2625	4490	0.0677	-
0.2630	4500	0.0777	-
0.2636	4510	0.0591	-
0.2642	4520	0.0665	-
0.2648	4530	0.0633	-
0.2654	4540	0.0655	-
0.2660	4550	0.0606	-
0.2665	4560	0.0609	-
0.2671	4570	0.0546	-
0.2677	4580	0.0717	-
0.2683	4590	0.0639	-
0.2689	4600	0.0648	-
0.2695	4610	0.0716	-
0.2701	4620	0.0627	-
0.2706	4630	0.0631	-
0.2712	4640	0.063	-
0.2718	4650	0.0623	-
0.2724	4660	0.0693	-
0.2730	4670	0.0676	-
0.2736	4680	0.0733	-
0.2741	4690	0.0585	-
0.2747	4700	0.0687	-
0.2753	4710	0.0602	-
0.2759	4720	0.0631	-
0.2765	4730	0.0643	-
0.2771	4740	0.0663	-
0.2777	4750	0.062	-
0.2782	4760	0.0603	-
0.2788	4770	0.062	-
0.2794	4780	0.0678	-
0.2800	4790	0.0602	-
0.2806	4800	0.0586	-
0.2812	4810	0.0713	-
0.2817	4820	0.0669	-
0.2823	4830	0.0674	-
0.2829	4840	0.0658	-
0.2835	4850	0.0615	-
0.2841	4860	0.0579	-
0.2847	4870	0.0571	-
0.2852	4880	0.0738	-
0.2858	4890	0.0532	-
0.2864	4900	0.0599	-
0.2870	4910	0.0584	-
0.2876	4920	0.0622	-
0.2882	4930	0.0631	-
0.2888	4940	0.0674	-
0.2893	4950	0.0619	-
0.2899	4960	0.0709	-
0.2905	4970	0.0658	-
0.2911	4980	0.0644	-
0.2917	4990	0.0718	-
0.2923	5000	0.062	0.0212
0.2928	5010	0.0655	-
0.2934	5020	0.0633	-
0.2940	5030	0.0699	-
0.2946	5040	0.059	-
0.2952	5050	0.0561	-
0.2958	5060	0.0639	-
0.2964	5070	0.0614	-
0.2969	5080	0.0671	-
0.2975	5090	0.0642	-
0.2981	5100	0.0548	-
0.2987	5110	0.0605	-
0.2993	5120	0.0584	-
0.2999	5130	0.055	-
0.3004	5140	0.0674	-
0.3010	5150	0.0607	-
0.3016	5160	0.0667	-
0.3022	5170	0.0623	-
0.3028	5180	0.0537	-
0.3034	5190	0.0589	-
0.3040	5200	0.0657	-
0.3045	5210	0.0596	-
0.3051	5220	0.0622	-
0.3057	5230	0.0589	-
0.3063	5240	0.0645	-
0.3069	5250	0.0709	-
0.3075	5260	0.0541	-
0.3080	5270	0.0654	-
0.3086	5280	0.0637	-
0.3092	5290	0.0687	-
0.3098	5300	0.0763	-
0.3104	5310	0.0625	-
0.3110	5320	0.0581	-
0.3116	5330	0.0726	-
0.3121	5340	0.0718	-
0.3127	5350	0.0633	-
0.3133	5360	0.062	-
0.3139	5370	0.0693	-
0.3145	5380	0.0744	-
0.3151	5390	0.0694	-
0.3156	5400	0.0551	-
0.3162	5410	0.0696	-
0.3168	5420	0.065	-
0.3174	5430	0.0644	-
0.3180	5440	0.073	-
0.3186	5450	0.0618	-
0.3192	5460	0.0603	-
0.3197	5470	0.0547	-
0.3203	5480	0.0536	-
0.3209	5490	0.0567	-
0.3215	5500	0.0643	-
0.3221	5510	0.0574	-
0.3227	5520	0.0655	-
0.3232	5530	0.0646	-
0.3238	5540	0.0748	-
0.3244	5550	0.062	-
0.3250	5560	0.0598	-
0.3256	5570	0.0633	-
0.3262	5580	0.0606	-
0.3268	5590	0.0716	-
0.3273	5600	0.064	-
0.3279	5610	0.0637	-
0.3285	5620	0.0614	-
0.3291	5630	0.0662	-
0.3297	5640	0.0715	-
0.3303	5650	0.0507	-
0.3308	5660	0.0601	-
0.3314	5670	0.075	-
0.3320	5680	0.0651	-
0.3326	5690	0.0578	-
0.3332	5700	0.0648	-
0.3338	5710	0.0601	-
0.3344	5720	0.0677	-
0.3349	5730	0.0527	-
0.3355	5740	0.0625	-
0.3361	5750	0.0579	-
0.3367	5760	0.0626	-
0.3373	5770	0.0637	-
0.3379	5780	0.0655	-
0.3384	5790	0.0609	-
0.3390	5800	0.0513	-
0.3396	5810	0.0647	-
0.3402	5820	0.0553	-
0.3408	5830	0.0623	-
0.3414	5840	0.0666	-
0.3419	5850	0.0515	-
0.3425	5860	0.0702	-
0.3431	5870	0.0629	-
0.3437	5880	0.0631	-
0.3443	5890	0.058	-
0.3449	5900	0.0631	-
0.3455	5910	0.0576	-
0.3460	5920	0.0692	-
0.3466	5930	0.0628	-
0.3472	5940	0.0563	-
0.3478	5950	0.0607	-
0.3484	5960	0.0685	-
0.3490	5970	0.0598	-
0.3495	5980	0.065	-
0.3501	5990	0.0556	-
0.3507	6000	0.0617	0.0202
0.3513	6010	0.0641	-
0.3519	6020	0.0616	-
0.3525	6030	0.0667	-
0.3531	6040	0.066	-
0.3536	6050	0.0625	-
0.3542	6060	0.054	-
0.3548	6070	0.0574	-
0.3554	6080	0.0652	-
0.3560	6090	0.0578	-
0.3566	6100	0.0609	-
0.3571	6110	0.0566	-
0.3577	6120	0.06	-
0.3583	6130	0.056	-
0.3589	6140	0.0623	-
0.3595	6150	0.0553	-
0.3601	6160	0.0485	-
0.3607	6170	0.0509	-
0.3612	6180	0.0634	-
0.3618	6190	0.0605	-
0.3624	6200	0.0685	-
0.3630	6210	0.0531	-
0.3636	6220	0.058	-
0.3642	6230	0.0568	-
0.3647	6240	0.0576	-
0.3653	6250	0.0575	-
0.3659	6260	0.0603	-
0.3665	6270	0.0619	-
0.3671	6280	0.0607	-
0.3677	6290	0.0643	-
0.3683	6300	0.0609	-
0.3688	6310	0.0583	-
0.3694	6320	0.0571	-
0.3700	6330	0.065	-
0.3706	6340	0.0531	-
0.3712	6350	0.0627	-
0.3718	6360	0.0553	-
0.3723	6370	0.0596	-
0.3729	6380	0.063	-
0.3735	6390	0.068	-
0.3741	6400	0.0595	-
0.3747	6410	0.0635	-
0.3753	6420	0.0602	-
0.3759	6430	0.0547	-
0.3764	6440	0.0571	-
0.3770	6450	0.058	-
0.3776	6460	0.057	-
0.3782	6470	0.0553	-
0.3788	6480	0.0567	-
0.3794	6490	0.0626	-
0.3799	6500	0.0614	-
0.3805	6510	0.058	-
0.3811	6520	0.063	-
0.3817	6530	0.0558	-
0.3823	6540	0.0598	-
0.3829	6550	0.0605	-
0.3835	6560	0.0601	-
0.3840	6570	0.0665	-
0.3846	6580	0.0581	-
0.3852	6590	0.0535	-
0.3858	6600	0.0543	-
0.3864	6610	0.0577	-
0.3870	6620	0.0524	-
0.3875	6630	0.0576	-
0.3881	6640	0.0575	-
0.3887	6650	0.0629	-
0.3893	6660	0.0657	-
0.3899	6670	0.0603	-
0.3905	6680	0.0556	-
0.3910	6690	0.0608	-
0.3916	6700	0.0595	-
0.3922	6710	0.0585	-
0.3928	6720	0.0747	-
0.3934	6730	0.0556	-
0.3940	6740	0.0534	-
0.3946	6750	0.0601	-
0.3951	6760	0.0601	-
0.3957	6770	0.0612	-
0.3963	6780	0.0516	-
0.3969	6790	0.0627	-
0.3975	6800	0.0545	-
0.3981	6810	0.0586	-
0.3986	6820	0.0582	-
0.3992	6830	0.0617	-
0.3998	6840	0.0609	-
0.4004	6850	0.0588	-
0.4010	6860	0.0617	-
0.4016	6870	0.061	-
0.4022	6880	0.0635	-
0.4027	6890	0.0544	-
0.4033	6900	0.0599	-
0.4039	6910	0.0577	-
0.4045	6920	0.0553	-
0.4051	6930	0.0623	-
0.4057	6940	0.0632	-
0.4062	6950	0.0631	-
0.4068	6960	0.0608	-
0.4074	6970	0.0562	-
0.4080	6980	0.0581	-
0.4086	6990	0.0586	-
0.4092	7000	0.0512	0.0192
0.4098	7010	0.0588	-
0.4103	7020	0.0515	-
0.4109	7030	0.0529	-
0.4115	7040	0.0557	-
0.4121	7050	0.0524	-
0.4127	7060	0.0625	-
0.4133	7070	0.0595	-
0.4138	7080	0.0583	-
0.4144	7090	0.0616	-
0.4150	7100	0.0671	-
0.4156	7110	0.0511	-
0.4162	7120	0.061	-
0.4168	7130	0.0563	-
0.4174	7140	0.0575	-
0.4179	7150	0.0606	-
0.4185	7160	0.0461	-
0.4191	7170	0.0501	-
0.4197	7180	0.0557	-
0.4203	7190	0.052	-
0.4209	7200	0.0668	-
0.4214	7210	0.0677	-
0.4220	7220	0.0642	-
0.4226	7230	0.0545	-
0.4232	7240	0.0563	-
0.4238	7250	0.0587	-
0.4244	7260	0.0607	-
0.4250	7270	0.0619	-
0.4255	7280	0.0568	-
0.4261	7290	0.0516	-
0.4267	7300	0.0711	-
0.4273	7310	0.0617	-
0.4279	7320	0.0645	-
0.4285	7330	0.0569	-
0.4290	7340	0.0536	-
0.4296	7350	0.0555	-
0.4302	7360	0.0519	-
0.4308	7370	0.0542	-
0.4314	7380	0.056	-
0.4320	7390	0.0594	-
0.4326	7400	0.0553	-
0.4331	7410	0.0597	-
0.4337	7420	0.0662	-
0.4343	7430	0.0521	-
0.4349	7440	0.061	-
0.4355	7450	0.055	-
0.4361	7460	0.0539	-
0.4366	7470	0.0592	-
0.4372	7480	0.0585	-
0.4378	7490	0.0541	-
0.4384	7500	0.0572	-
0.4390	7510	0.0628	-
0.4396	7520	0.0563	-
0.4401	7530	0.0509	-
0.4407	7540	0.0539	-
0.4413	7550	0.05	-
0.4419	7560	0.052	-
0.4425	7570	0.0588	-
0.4431	7580	0.0625	-
0.4437	7590	0.0495	-
0.4442	7600	0.0617	-
0.4448	7610	0.0519	-
0.4454	7620	0.0598	-
0.4460	7630	0.0583	-
0.4466	7640	0.0556	-
0.4472	7650	0.0645	-
0.4477	7660	0.0468	-
0.4483	7670	0.0594	-
0.4489	7680	0.0566	-
0.4495	7690	0.0642	-
0.4501	7700	0.0512	-
0.4507	7710	0.0578	-
0.4513	7720	0.0595	-
0.4518	7730	0.0563	-
0.4524	7740	0.0478	-
0.4530	7750	0.0546	-
0.4536	7760	0.0594	-
0.4542	7770	0.0618	-
0.4548	7780	0.0617	-
0.4553	7790	0.0642	-
0.4559	7800	0.0612	-
0.4565	7810	0.0595	-
0.4571	7820	0.0552	-
0.4577	7830	0.0611	-
0.4583	7840	0.0481	-
0.4589	7850	0.0544	-
0.4594	7860	0.0566	-
0.4600	7870	0.0538	-
0.4606	7880	0.0554	-
0.4612	7890	0.059	-
0.4618	7900	0.0546	-
0.4624	7910	0.0486	-
0.4629	7920	0.0558	-
0.4635	7930	0.0545	-
0.4641	7940	0.0652	-
0.4647	7950	0.049	-
0.4653	7960	0.0628	-
0.4659	7970	0.0505	-
0.4665	7980	0.055	-
0.4670	7990	0.0601	-
0.4676	8000	0.0574	0.0186
0.4682	8010	0.0568	-
0.4688	8020	0.0526	-
0.4694	8030	0.0512	-
0.4700	8040	0.0542	-
0.4705	8050	0.0651	-
0.4711	8060	0.0553	-
0.4717	8070	0.0533	-
0.4723	8080	0.0444	-
0.4729	8090	0.062	-
0.4735	8100	0.0615	-
0.4741	8110	0.0517	-
0.4746	8120	0.0616	-
0.4752	8130	0.0546	-
0.4758	8140	0.0589	-
0.4764	8150	0.0531	-
0.4770	8160	0.0581	-
0.4776	8170	0.0538	-
0.4781	8180	0.0468	-
0.4787	8190	0.0593	-
0.4793	8200	0.0483	-
0.4799	8210	0.0649	-
0.4805	8220	0.0524	-
0.4811	8230	0.0615	-
0.4817	8240	0.055	-
0.4822	8250	0.0512	-
0.4828	8260	0.0567	-
0.4834	8270	0.058	-
0.4840	8280	0.063	-
0.4846	8290	0.0542	-
0.4852	8300	0.05	-
0.4857	8310	0.0579	-
0.4863	8320	0.0619	-
0.4869	8330	0.053	-
0.4875	8340	0.0517	-
0.4881	8350	0.0682	-
0.4887	8360	0.0453	-
0.4893	8370	0.0515	-
0.4898	8380	0.0513	-
0.4904	8390	0.0534	-
0.4910	8400	0.0599	-
0.4916	8410	0.0548	-
0.4922	8420	0.0472	-
0.4928	8430	0.048	-
0.4933	8440	0.0558	-
0.4939	8450	0.0601	-
0.4945	8460	0.0589	-
0.4951	8470	0.0492	-
0.4957	8480	0.0614	-
0.4963	8490	0.0566	-
0.4968	8500	0.0519	-
0.4974	8510	0.0432	-
0.4980	8520	0.063	-
0.4986	8530	0.0493	-
0.4992	8540	0.0502	-
0.4998	8550	0.0548	-
0.5004	8560	0.0515	-
0.5009	8570	0.0551	-
0.5015	8580	0.0496	-
0.5021	8590	0.0433	-
0.5027	8600	0.0595	-
0.5033	8610	0.0568	-
0.5039	8620	0.0518	-
0.5044	8630	0.0505	-
0.5050	8640	0.0532	-
0.5056	8650	0.0529	-
0.5062	8660	0.0522	-
0.5068	8670	0.0641	-
0.5074	8680	0.0528	-
0.5080	8690	0.0551	-
0.5085	8700	0.0515	-
0.5091	8710	0.0563	-
0.5097	8720	0.0592	-
0.5103	8730	0.0606	-
0.5109	8740	0.0536	-
0.5115	8750	0.0502	-
0.5120	8760	0.0543	-
0.5126	8770	0.0637	-
0.5132	8780	0.0489	-
0.5138	8790	0.0578	-
0.5144	8800	0.05	-
0.5150	8810	0.0544	-
0.5156	8820	0.0509	-
0.5161	8830	0.0572	-
0.5167	8840	0.0628	-
0.5173	8850	0.0593	-
0.5179	8860	0.0675	-
0.5185	8870	0.0564	-
0.5191	8880	0.0585	-
0.5196	8890	0.0482	-
0.5202	8900	0.0594	-
0.5208	8910	0.048	-
0.5214	8920	0.0466	-
0.5220	8930	0.0459	-
0.5226	8940	0.0528	-
0.5232	8950	0.0601	-
0.5237	8960	0.0547	-
0.5243	8970	0.0532	-
0.5249	8980	0.0577	-
0.5255	8990	0.058	-
0.5261	9000	0.0487	0.0178
0.5267	9010	0.0477	-
0.5272	9020	0.0517	-
0.5278	9030	0.0526	-
0.5284	9040	0.0551	-
0.5290	9050	0.0608	-
0.5296	9060	0.0496	-
0.5302	9070	0.0523	-
0.5308	9080	0.0608	-
0.5313	9090	0.063	-
0.5319	9100	0.0523	-
0.5325	9110	0.0569	-
0.5331	9120	0.0487	-
0.5337	9130	0.0497	-
0.5343	9140	0.0526	-
0.5348	9150	0.0521	-
0.5354	9160	0.0562	-
0.5360	9170	0.0462	-
0.5366	9180	0.0623	-
0.5372	9190	0.0524	-
0.5378	9200	0.0477	-
0.5384	9210	0.0487	-
0.5389	9220	0.0502	-
0.5395	9230	0.0565	-
0.5401	9240	0.0558	-
0.5407	9250	0.0662	-
0.5413	9260	0.0576	-
0.5419	9270	0.0553	-
0.5424	9280	0.0602	-
0.5430	9290	0.0517	-
0.5436	9300	0.0551	-
0.5442	9310	0.0513	-
0.5448	9320	0.0614	-
0.5454	9330	0.052	-
0.5459	9340	0.0542	-
0.5465	9350	0.0491	-
0.5471	9360	0.0554	-
0.5477	9370	0.0544	-
0.5483	9380	0.0555	-
0.5489	9390	0.0604	-
0.5495	9400	0.0489	-
0.5500	9410	0.0566	-
0.5506	9420	0.05	-
0.5512	9430	0.0499	-
0.5518	9440	0.0583	-
0.5524	9450	0.0604	-
0.5530	9460	0.0474	-
0.5535	9470	0.0578	-
0.5541	9480	0.0473	-
0.5547	9490	0.0498	-
0.5553	9500	0.0536	-
0.5559	9510	0.0549	-
0.5565	9520	0.0704	-
0.5571	9530	0.0521	-
0.5576	9540	0.0592	-
0.5582	9550	0.0609	-
0.5588	9560	0.0497	-
0.5594	9570	0.0471	-
0.5600	9580	0.0514	-
0.5606	9590	0.0565	-
0.5611	9600	0.0486	-
0.5617	9610	0.0533	-
0.5623	9620	0.0502	-
0.5629	9630	0.051	-
0.5635	9640	0.0637	-
0.5641	9650	0.049	-
0.5647	9660	0.0568	-
0.5652	9670	0.0486	-
0.5658	9680	0.0478	-
0.5664	9690	0.0474	-
0.5670	9700	0.0532	-
0.5676	9710	0.0517	-
0.5682	9720	0.0562	-
0.5687	9730	0.057	-
0.5693	9740	0.057	-
0.5699	9750	0.0543	-
0.5705	9760	0.0513	-
0.5711	9770	0.0584	-
0.5717	9780	0.0518	-
0.5723	9790	0.0495	-
0.5728	9800	0.0565	-
0.5734	9810	0.055	-
0.5740	9820	0.0515	-
0.5746	9830	0.0503	-
0.5752	9840	0.045	-
0.5758	9850	0.0595	-
0.5763	9860	0.0547	-
0.5769	9870	0.0561	-
0.5775	9880	0.0518	-
0.5781	9890	0.0529	-
0.5787	9900	0.0543	-
0.5793	9910	0.0555	-
0.5799	9920	0.0529	-
0.5804	9930	0.0484	-
0.5810	9940	0.053	-
0.5816	9950	0.0579	-
0.5822	9960	0.0451	-
0.5828	9970	0.0539	-
0.5834	9980	0.0499	-
0.5839	9990	0.0493	-
0.5845	10000	0.0512	0.0177
0.5851	10010	0.0468	-
0.5857	10020	0.055	-
0.5863	10030	0.0545	-
0.5869	10040	0.0532	-
0.5875	10050	0.0526	-
0.5880	10060	0.0521	-
0.5886	10070	0.049	-
0.5892	10080	0.0496	-
0.5898	10090	0.06	-
0.5904	10100	0.0607	-
0.5910	10110	0.0525	-
0.5915	10120	0.0467	-
0.5921	10130	0.0499	-
0.5927	10140	0.0519	-
0.5933	10150	0.0505	-
0.5939	10160	0.0521	-
0.5945	10170	0.0509	-
0.5950	10180	0.0635	-
0.5956	10190	0.0552	-
0.5962	10200	0.0443	-
0.5968	10210	0.0529	-
0.5974	10220	0.0513	-
0.5980	10230	0.0638	-
0.5986	10240	0.046	-
0.5991	10250	0.0506	-
0.5997	10260	0.0618	-
0.6003	10270	0.0469	-
0.6009	10280	0.0456	-
0.6015	10290	0.0525	-
0.6021	10300	0.0538	-
0.6026	10310	0.0518	-
0.6032	10320	0.0577	-
0.6038	10330	0.0574	-
0.6044	10340	0.0603	-
0.6050	10350	0.0505	-
0.6056	10360	0.0494	-
0.6062	10370	0.0517	-
0.6067	10380	0.048	-
0.6073	10390	0.055	-
0.6079	10400	0.0504	-
0.6085	10410	0.0544	-
0.6091	10420	0.0461	-
0.6097	10430	0.0587	-
0.6102	10440	0.0483	-
0.6108	10450	0.0484	-
0.6114	10460	0.0458	-
0.6120	10470	0.0549	-
0.6126	10480	0.0532	-
0.6132	10490	0.052	-
0.6138	10500	0.0536	-
0.6143	10510	0.0511	-
0.6149	10520	0.0611	-
0.6155	10530	0.0536	-
0.6161	10540	0.0567	-
0.6167	10550	0.054	-
0.6173	10560	0.0574	-
0.6178	10570	0.0531	-
0.6184	10580	0.0531	-
0.6190	10590	0.0522	-
0.6196	10600	0.0412	-
0.6202	10610	0.054	-
0.6208	10620	0.0568	-
0.6214	10630	0.0557	-
0.6219	10640	0.0506	-
0.6225	10650	0.0497	-
0.6231	10660	0.0464	-
0.6237	10670	0.0538	-
0.6243	10680	0.0547	-
0.6249	10690	0.0494	-
0.6254	10700	0.0492	-
0.6260	10710	0.047	-
0.6266	10720	0.0491	-
0.6272	10730	0.0528	-
0.6278	10740	0.0479	-
0.6284	10750	0.0462	-
0.6290	10760	0.0536	-
0.6295	10770	0.0533	-
0.6301	10780	0.0555	-
0.6307	10790	0.0638	-
0.6313	10800	0.0541	-
0.6319	10810	0.0522	-
0.6325	10820	0.0668	-
0.6330	10830	0.0456	-
0.6336	10840	0.0539	-
0.6342	10850	0.0489	-
0.6348	10860	0.047	-
0.6354	10870	0.0492	-
0.6360	10880	0.0514	-
0.6366	10890	0.0446	-
0.6371	10900	0.0596	-
0.6377	10910	0.0492	-
0.6383	10920	0.0496	-
0.6389	10930	0.0489	-
0.6395	10940	0.052	-
0.6401	10950	0.0512	-
0.6406	10960	0.0548	-
0.6412	10970	0.0543	-
0.6418	10980	0.0485	-
0.6424	10990	0.0487	-
0.6430	11000	0.0484	0.0171
0.6436	11010	0.0486	-
0.6442	11020	0.0573	-
0.6447	11030	0.0508	-
0.6453	11040	0.0484	-
0.6459	11050	0.0609	-
0.6465	11060	0.0481	-
0.6471	11070	0.0549	-
0.6477	11080	0.0603	-
0.6482	11090	0.0476	-
0.6488	11100	0.0602	-
0.6494	11110	0.0614	-
0.6500	11120	0.052	-
0.6506	11130	0.0527	-
0.6512	11140	0.045	-
0.6517	11150	0.0456	-
0.6523	11160	0.049	-
0.6529	11170	0.0496	-
0.6535	11180	0.0478	-
0.6541	11190	0.0484	-
0.6547	11200	0.058	-
0.6553	11210	0.0524	-
0.6558	11220	0.0497	-
0.6564	11230	0.0605	-
0.6570	11240	0.0521	-
0.6576	11250	0.0522	-
0.6582	11260	0.0551	-
0.6588	11270	0.0585	-
0.6593	11280	0.0547	-
0.6599	11290	0.0581	-
0.6605	11300	0.0541	-
0.6611	11310	0.0583	-
0.6617	11320	0.0574	-
0.6623	11330	0.0477	-
0.6629	11340	0.049	-
0.6634	11350	0.0516	-
0.6640	11360	0.053	-
0.6646	11370	0.0515	-
0.6652	11380	0.0507	-
0.6658	11390	0.058	-
0.6664	11400	0.0514	-
0.6669	11410	0.0505	-
0.6675	11420	0.0452	-
0.6681	11430	0.0508	-
0.6687	11440	0.042	-
0.6693	11450	0.0565	-
0.6699	11460	0.0471	-
0.6705	11470	0.0478	-
0.6710	11480	0.0492	-
0.6716	11490	0.0516	-
0.6722	11500	0.0593	-
0.6728	11510	0.0479	-
0.6734	11520	0.0515	-
0.6740	11530	0.053	-
0.6745	11540	0.0468	-
0.6751	11550	0.0618	-
0.6757	11560	0.0544	-
0.6763	11570	0.0537	-
0.6769	11580	0.0551	-
0.6775	11590	0.0465	-
0.6781	11600	0.0506	-
0.6786	11610	0.0514	-
0.6792	11620	0.0508	-
0.6798	11630	0.0488	-
0.6804	11640	0.0535	-
0.6810	11650	0.0396	-
0.6816	11660	0.0494	-
0.6821	11670	0.055	-
0.6827	11680	0.0506	-
0.6833	11690	0.0501	-
0.6839	11700	0.0602	-
0.6845	11710	0.0532	-
0.6851	11720	0.0531	-
0.6857	11730	0.0496	-
0.6862	11740	0.0486	-
0.6868	11750	0.0538	-
0.6874	11760	0.0482	-
0.6880	11770	0.0505	-
0.6886	11780	0.047	-
0.6892	11790	0.0582	-
0.6897	11800	0.0563	-
0.6903	11810	0.0442	-
0.6909	11820	0.0501	-
0.6915	11830	0.0441	-
0.6921	11840	0.0584	-
0.6927	11850	0.0508	-
0.6933	11860	0.0592	-
0.6938	11870	0.0476	-
0.6944	11880	0.0525	-
0.6950	11890	0.058	-
0.6956	11900	0.0445	-
0.6962	11910	0.0555	-
0.6968	11920	0.0462	-
0.6973	11930	0.0483	-
0.6979	11940	0.0471	-
0.6985	11950	0.0512	-
0.6991	11960	0.0509	-
0.6997	11970	0.0535	-
0.7003	11980	0.0559	-
0.7008	11990	0.0469	-
0.7014	12000	0.0435	0.0167
0.7020	12010	0.0539	-
0.7026	12020	0.0492	-
0.7032	12030	0.0453	-
0.7038	12040	0.0451	-
0.7044	12050	0.0467	-
0.7049	12060	0.0516	-
0.7055	12070	0.044	-
0.7061	12080	0.0553	-
0.7067	12090	0.0476	-
0.7073	12100	0.0506	-
0.7079	12110	0.0517	-
0.7084	12120	0.0526	-
0.7090	12130	0.0587	-
0.7096	12140	0.0526	-
0.7102	12150	0.0555	-
0.7108	12160	0.054	-
0.7114	12170	0.0506	-
0.7120	12180	0.0465	-
0.7125	12190	0.0497	-
0.7131	12200	0.0502	-
0.7137	12210	0.0474	-
0.7143	12220	0.0463	-
0.7149	12230	0.0501	-
0.7155	12240	0.051	-
0.7160	12250	0.0548	-
0.7166	12260	0.0555	-
0.7172	12270	0.0518	-
0.7178	12280	0.049	-
0.7184	12290	0.0472	-
0.7190	12300	0.051	-
0.7196	12310	0.0494	-
0.7201	12320	0.0487	-
0.7207	12330	0.0485	-
0.7213	12340	0.0527	-
0.7219	12350	0.0502	-
0.7225	12360	0.0625	-
0.7231	12370	0.0579	-
0.7236	12380	0.0486	-
0.7242	12390	0.057	-
0.7248	12400	0.0504	-
0.7254	12410	0.0552	-
0.7260	12420	0.0559	-
0.7266	12430	0.0517	-
0.7272	12440	0.0524	-
0.7277	12450	0.048	-
0.7283	12460	0.0569	-
0.7289	12470	0.0494	-
0.7295	12480	0.0519	-
0.7301	12490	0.0527	-
0.7307	12500	0.0481	-
0.7312	12510	0.0456	-
0.7318	12520	0.0471	-
0.7324	12530	0.0496	-
0.7330	12540	0.0461	-
0.7336	12550	0.0516	-
0.7342	12560	0.0479	-
0.7348	12570	0.0543	-
0.7353	12580	0.0479	-
0.7359	12590	0.0513	-
0.7365	12600	0.046	-
0.7371	12610	0.0518	-
0.7377	12620	0.0475	-
0.7383	12630	0.0584	-
0.7388	12640	0.0491	-
0.7394	12650	0.0514	-
0.7400	12660	0.0501	-
0.7406	12670	0.0486	-
0.7412	12680	0.047	-
0.7418	12690	0.0526	-
0.7424	12700	0.0526	-
0.7429	12710	0.0449	-
0.7435	12720	0.0409	-
0.7441	12730	0.0511	-
0.7447	12740	0.0456	-
0.7453	12750	0.0465	-
0.7459	12760	0.0493	-
0.7464	12770	0.0488	-
0.7470	12780	0.049	-
0.7476	12790	0.0498	-
0.7482	12800	0.0463	-
0.7488	12810	0.0495	-
0.7494	12820	0.0488	-
0.7499	12830	0.0544	-
0.7505	12840	0.0557	-
0.7511	12850	0.0478	-
0.7517	12860	0.0573	-
0.7523	12870	0.0527	-
0.7529	12880	0.0567	-
0.7535	12890	0.0517	-
0.7540	12900	0.0523	-
0.7546	12910	0.0569	-
0.7552	12920	0.0558	-
0.7558	12930	0.0478	-
0.7564	12940	0.0556	-
0.7570	12950	0.0487	-
0.7575	12960	0.0444	-
0.7581	12970	0.05	-
0.7587	12980	0.0581	-
0.7593	12990	0.0534	-
0.7599	13000	0.051	0.0164
0.7605	13010	0.0516	-
0.7611	13020	0.0531	-
0.7616	13030	0.0468	-
0.7622	13040	0.0441	-
0.7628	13050	0.0524	-
0.7634	13060	0.0519	-
0.7640	13070	0.0542	-
0.7646	13080	0.0406	-
0.7651	13090	0.0587	-
0.7657	13100	0.0541	-
0.7663	13110	0.0559	-
0.7669	13120	0.0517	-
0.7675	13130	0.0543	-
0.7681	13140	0.0517	-
0.7687	13150	0.0547	-
0.7692	13160	0.0508	-
0.7698	13170	0.0527	-
0.7704	13180	0.049	-
0.7710	13190	0.0544	-
0.7716	13200	0.0452	-
0.7722	13210	0.0485	-
0.7727	13220	0.0522	-
0.7733	13230	0.0475	-
0.7739	13240	0.0505	-
0.7745	13250	0.0458	-
0.7751	13260	0.0503	-
0.7757	13270	0.0529	-
0.7763	13280	0.0515	-
0.7768	13290	0.0521	-
0.7774	13300	0.045	-
0.7780	13310	0.0487	-
0.7786	13320	0.0413	-
0.7792	13330	0.0457	-
0.7798	13340	0.0506	-
0.7803	13350	0.0458	-
0.7809	13360	0.0523	-
0.7815	13370	0.0531	-
0.7821	13380	0.0515	-
0.7827	13390	0.0568	-
0.7833	13400	0.0539	-
0.7839	13410	0.0501	-
0.7844	13420	0.0513	-
0.7850	13430	0.0575	-
0.7856	13440	0.0493	-
0.7862	13450	0.0537	-
0.7868	13460	0.0509	-
0.7874	13470	0.0519	-
0.7879	13480	0.0489	-
0.7885	13490	0.0551	-
0.7891	13500	0.0484	-
0.7897	13510	0.0507	-
0.7903	13520	0.0397	-
0.7909	13530	0.0425	-
0.7915	13540	0.04	-
0.7920	13550	0.052	-
0.7926	13560	0.0488	-
0.7932	13570	0.0466	-
0.7938	13580	0.0562	-
0.7944	13590	0.0496	-
0.7950	13600	0.0499	-
0.7955	13610	0.0535	-
0.7961	13620	0.0476	-
0.7967	13630	0.0504	-
0.7973	13640	0.0517	-
0.7979	13650	0.0495	-
0.7985	13660	0.0578	-
0.7991	13670	0.0434	-
0.7996	13680	0.0458	-
0.8002	13690	0.0546	-
0.8008	13700	0.0549	-
0.8014	13710	0.0537	-
0.8020	13720	0.0469	-
0.8026	13730	0.0504	-
0.8031	13740	0.0521	-
0.8037	13750	0.045	-
0.8043	13760	0.0545	-
0.8049	13770	0.0555	-
0.8055	13780	0.0522	-
0.8061	13790	0.0436	-
0.8066	13800	0.0516	-
0.8072	13810	0.0571	-
0.8078	13820	0.0463	-
0.8084	13830	0.0506	-
0.8090	13840	0.0522	-
0.8096	13850	0.0475	-
0.8102	13860	0.0535	-
0.8107	13870	0.0443	-
0.8113	13880	0.053	-
0.8119	13890	0.0427	-
0.8125	13900	0.0523	-
0.8131	13910	0.0583	-
0.8137	13920	0.0542	-
0.8142	13930	0.0494	-
0.8148	13940	0.0464	-
0.8154	13950	0.048	-
0.8160	13960	0.0549	-
0.8166	13970	0.0471	-
0.8172	13980	0.0526	-
0.8178	13990	0.0489	-
0.8183	14000	0.0438	0.0164
0.8189	14010	0.0459	-
0.8195	14020	0.0471	-
0.8201	14030	0.0592	-
0.8207	14040	0.052	-
0.8213	14050	0.054	-
0.8218	14060	0.0461	-
0.8224	14070	0.0509	-
0.8230	14080	0.0453	-
0.8236	14090	0.053	-
0.8242	14100	0.0506	-
0.8248	14110	0.0478	-
0.8254	14120	0.0528	-
0.8259	14130	0.0509	-
0.8265	14140	0.058	-
0.8271	14150	0.0399	-
0.8277	14160	0.0517	-
0.8283	14170	0.0521	-
0.8289	14180	0.0561	-
0.8294	14190	0.0476	-
0.8300	14200	0.0476	-
0.8306	14210	0.0506	-
0.8312	14220	0.048	-
0.8318	14230	0.0544	-
0.8324	14240	0.045	-
0.8330	14250	0.0527	-
0.8335	14260	0.0507	-
0.8341	14270	0.0511	-
0.8347	14280	0.0455	-
0.8353	14290	0.0496	-
0.8359	14300	0.0462	-
0.8365	14310	0.0522	-
0.8370	14320	0.0453	-
0.8376	14330	0.0493	-
0.8382	14340	0.0474	-
0.8388	14350	0.0473	-
0.8394	14360	0.0438	-
0.8400	14370	0.0537	-
0.8406	14380	0.0538	-
0.8411	14390	0.0479	-
0.8417	14400	0.0483	-
0.8423	14410	0.0556	-
0.8429	14420	0.0517	-
0.8435	14430	0.0518	-
0.8441	14440	0.0467	-
0.8446	14450	0.0506	-
0.8452	14460	0.054	-
0.8458	14470	0.0494	-
0.8464	14480	0.0537	-
0.8470	14490	0.0496	-
0.8476	14500	0.0483	-
0.8482	14510	0.0619	-
0.8487	14520	0.0486	-
0.8493	14530	0.0487	-
0.8499	14540	0.0511	-
0.8505	14550	0.0515	-
0.8511	14560	0.0413	-
0.8517	14570	0.0444	-
0.8522	14580	0.0425	-
0.8528	14590	0.0565	-
0.8534	14600	0.0507	-
0.8540	14610	0.0495	-
0.8546	14620	0.0559	-
0.8552	14630	0.047	-
0.8557	14640	0.0545	-
0.8563	14650	0.0435	-
0.8569	14660	0.0525	-
0.8575	14670	0.051	-
0.8581	14680	0.0462	-
0.8587	14690	0.0472	-
0.8593	14700	0.0491	-
0.8598	14710	0.0486	-
0.8604	14720	0.0516	-
0.8610	14730	0.0495	-
0.8616	14740	0.0475	-
0.8622	14750	0.0464	-
0.8628	14760	0.0478	-
0.8633	14770	0.0458	-
0.8639	14780	0.0497	-
0.8645	14790	0.0514	-
0.8651	14800	0.0542	-
0.8657	14810	0.0608	-
0.8663	14820	0.062	-
0.8669	14830	0.0555	-
0.8674	14840	0.0558	-
0.8680	14850	0.0541	-
0.8686	14860	0.0555	-
0.8692	14870	0.0515	-
0.8698	14880	0.0489	-
0.8704	14890	0.0429	-
0.8709	14900	0.056	-
0.8715	14910	0.0439	-
0.8721	14920	0.0533	-
0.8727	14930	0.0483	-
0.8733	14940	0.0456	-
0.8739	14950	0.0474	-
0.8745	14960	0.052	-
0.8750	14970	0.0439	-
0.8756	14980	0.057	-
0.8762	14990	0.046	-
0.8768	15000	0.0453	0.0163
0.8774	15010	0.0495	-
0.8780	15020	0.0443	-
0.8785	15030	0.0515	-
0.8791	15040	0.0396	-
0.8797	15050	0.0502	-
0.8803	15060	0.0457	-
0.8809	15070	0.0514	-
0.8815	15080	0.045	-
0.8821	15090	0.0519	-
0.8826	15100	0.0526	-
0.8832	15110	0.052	-
0.8838	15120	0.0454	-
0.8844	15130	0.0442	-
0.8850	15140	0.0458	-
0.8856	15150	0.0547	-
0.8861	15160	0.044	-
0.8867	15170	0.0444	-
0.8873	15180	0.044	-
0.8879	15190	0.0498	-
0.8885	15200	0.0464	-
0.8891	15210	0.0469	-
0.8897	15220	0.0481	-
0.8902	15230	0.0504	-
0.8908	15240	0.055	-
0.8914	15250	0.0502	-
0.8920	15260	0.0563	-
0.8926	15270	0.0477	-
0.8932	15280	0.0513	-
0.8937	15290	0.0488	-
0.8943	15300	0.0437	-
0.8949	15310	0.0436	-
0.8955	15320	0.0557	-
0.8961	15330	0.0571	-
0.8967	15340	0.0573	-
0.8973	15350	0.0531	-
0.8978	15360	0.0599	-
0.8984	15370	0.0463	-
0.8990	15380	0.0489	-
0.8996	15390	0.0498	-
0.9002	15400	0.0433	-
0.9008	15410	0.042	-
0.9013	15420	0.054	-
0.9019	15430	0.053	-
0.9025	15440	0.0426	-
0.9031	15450	0.0686	-
0.9037	15460	0.0577	-
0.9043	15470	0.0536	-
0.9048	15480	0.0456	-
0.9054	15490	0.0536	-
0.9060	15500	0.0477	-
0.9066	15510	0.0569	-
0.9072	15520	0.058	-
0.9078	15530	0.0576	-
0.9084	15540	0.0492	-
0.9089	15550	0.05	-
0.9095	15560	0.0559	-
0.9101	15570	0.0517	-
0.9107	15580	0.0524	-
0.9113	15590	0.0465	-
0.9119	15600	0.0473	-
0.9124	15610	0.0475	-
0.9130	15620	0.0474	-
0.9136	15630	0.0451	-
0.9142	15640	0.0541	-
0.9148	15650	0.0533	-
0.9154	15660	0.0503	-
0.9160	15670	0.0554	-
0.9165	15680	0.0473	-
0.9171	15690	0.0491	-
0.9177	15700	0.0445	-
0.9183	15710	0.0517	-
0.9189	15720	0.055	-
0.9195	15730	0.0421	-
0.9200	15740	0.0529	-
0.9206	15750	0.0564	-
0.9212	15760	0.065	-
0.9218	15770	0.049	-
0.9224	15780	0.0497	-
0.9230	15790	0.046	-
0.9236	15800	0.0486	-
0.9241	15810	0.0503	-
0.9247	15820	0.0525	-
0.9253	15830	0.0443	-
0.9259	15840	0.05	-
0.9265	15850	0.0472	-
0.9271	15860	0.0588	-
0.9276	15870	0.0491	-
0.9282	15880	0.0501	-
0.9288	15890	0.0599	-
0.9294	15900	0.0518	-
0.9300	15910	0.052	-
0.9306	15920	0.0558	-
0.9312	15930	0.0581	-
0.9317	15940	0.0453	-
0.9323	15950	0.0475	-
0.9329	15960	0.0448	-
0.9335	15970	0.0498	-
0.9341	15980	0.0484	-
0.9347	15990	0.0528	-
0.9352	16000	0.046	0.0163
0.9358	16010	0.0518	-
0.9364	16020	0.05	-
0.9370	16030	0.0436	-
0.9376	16040	0.0539	-
0.9382	16050	0.048	-
0.9388	16060	0.0508	-
0.9393	16070	0.0456	-
0.9399	16080	0.0576	-
0.9405	16090	0.0467	-
0.9411	16100	0.044	-
0.9417	16110	0.0506	-
0.9423	16120	0.0589	-
0.9428	16130	0.052	-
0.9434	16140	0.0527	-
0.9440	16150	0.039	-
0.9446	16160	0.0485	-
0.9452	16170	0.0456	-
0.9458	16180	0.0511	-
0.9464	16190	0.0629	-
0.9469	16200	0.0508	-
0.9475	16210	0.0519	-
0.9481	16220	0.0512	-
0.9487	16230	0.0508	-
0.9493	16240	0.0451	-
0.9499	16250	0.0436	-
0.9504	16260	0.0559	-
0.9510	16270	0.0425	-
0.9516	16280	0.0434	-
0.9522	16290	0.0507	-
0.9528	16300	0.0546	-
0.9534	16310	0.0477	-
0.9540	16320	0.0496	-
0.9545	16330	0.0519	-
0.9551	16340	0.0488	-
0.9557	16350	0.0574	-
0.9563	16360	0.0513	-
0.9569	16370	0.0494	-
0.9575	16380	0.0586	-
0.9580	16390	0.046	-
0.9586	16400	0.0504	-
0.9592	16410	0.0466	-
0.9598	16420	0.048	-
0.9604	16430	0.0503	-
0.9610	16440	0.0507	-
0.9615	16450	0.0545	-
0.9621	16460	0.0542	-
0.9627	16470	0.0474	-
0.9633	16480	0.0469	-
0.9639	16490	0.0416	-
0.9645	16500	0.0516	-
0.9651	16510	0.0524	-
0.9656	16520	0.0451	-
0.9662	16530	0.0533	-
0.9668	16540	0.0475	-
0.9674	16550	0.0491	-
0.9680	16560	0.0511	-
0.9686	16570	0.0525	-
0.9691	16580	0.0509	-
0.9697	16590	0.0457	-
0.9703	16600	0.0411	-
0.9709	16610	0.0553	-
0.9715	16620	0.0544	-
0.9721	16630	0.0466	-
0.9727	16640	0.0503	-
0.9732	16650	0.0512	-
0.9738	16660	0.055	-
0.9744	16670	0.0488	-
0.9750	16680	0.0418	-
0.9756	16690	0.0468	-
0.9762	16700	0.0496	-
0.9767	16710	0.0447	-
0.9773	16720	0.0523	-
0.9779	16730	0.0484	-
0.9785	16740	0.0418	-
0.9791	16750	0.0545	-
0.9797	16760	0.0478	-
0.9803	16770	0.0546	-
0.9808	16780	0.0499	-
0.9814	16790	0.0404	-
0.9820	16800	0.0477	-
0.9826	16810	0.0512	-
0.9832	16820	0.0562	-
0.9838	16830	0.0409	-
0.9843	16840	0.0459	-
0.9849	16850	0.0417	-
0.9855	16860	0.0514	-
0.9861	16870	0.0416	-
0.9867	16880	0.053	-
0.9873	16890	0.0527	-
0.9879	16900	0.0532	-
0.9884	16910	0.0527	-
0.9890	16920	0.0437	-
0.9896	16930	0.0441	-
0.9902	16940	0.0478	-
0.9908	16950	0.0509	-
0.9914	16960	0.0526	-
0.9919	16970	0.0573	-
0.9925	16980	0.0483	-
0.9931	16990	0.0503	-
0.9937	17000	0.0455	0.0163
0.9943	17010	0.0539	-
0.9949	17020	0.0465	-
0.9955	17030	0.0488	-
0.9960	17040	0.0465	-
0.9966	17050	0.0464	-
0.9972	17060	0.0463	-
0.9978	17070	0.0443	-
0.9984	17080	0.0469	-
0.9990	17090	0.0466	-
0.9995	17100	0.0513	-

Framework Versions

• Python: 3.12.12
• Sentence Transformers: 5.2.1
• Transformers: 4.57.6
• PyTorch: 2.10.0+cu128
• Accelerate: 1.12.0
• Datasets: 4.3.0
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}