Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
Paper • 1908.10084 • Published • 16
How to use JLee0/rag-embedder-grand-40epochs with sentence-transformers:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("JLee0/rag-embedder-grand-40epochs")
sentences = [
"샤시 통합 제어 시스템이 정상적으로 작동할 때 운전자가 느낄 수 있는 변화는 무엇인가요?",
"멀티 타입 메인 퓨즈\n멀티 타입 퓨즈는 볼트나 너트로 고정되어 있습\n니다. 임의로 분해 또는 조립하지 말고 당사 직\n영 하이테크센터나 블루핸즈에서 정비를 받으\n십시오. 불완전한 체결 및 잘못된 조립 토크는\n전자 장치의 오작동이나 화재를 일으킬 수 있습\n니다.\n엔진룸 퓨즈 박스 커버는 '딸깍' 소리가 날 때까\n지 닫아 확실하게 장착하십시오. 커버가 바르\n게 장착되지 않으면 수분이 유입되어 전자 장치\n작동에 이상이 생길 수 있습니다.",
"샤시 통합 제어 (VSM)\n샤시 통합 제어(VSM) 시스템은 노면이 미끄럽\n거나 좌우 타이어의 노면 마찰 계수가 다른 경\n우 제동 시 차체 자세 제어(ESC) 장치와 전동\n파워 스티어링을 상호 작용하며 제어하여 제동\n안전성 및 주행 안정성을 향상하는 시스템입니\n다.\nVSM은 Vehicle Stability Management의 약\n자입니다. \n\n 시스템 작동\n샤시 통합 제어 시스템이 작동할 때는 구동력과\n제동력의 영향 및 전동 파워 스티어링의 협조\n제어의 영향으로 약간의 진동 및 스티어링 휠의\n이질감이 느껴질 수 있으나 이는 정상입니다.\n다음과 같은 경우에는 샤시 통합 제어 시스템이\n작동하지 않습니다.\n• 도로의 경사가 심한 경우\n• 후진 주행하는 경우\n• 차체 자세 제어(ESC) 장치 작동 정지 표시등\n이 켜진 경우\n• 전동 파워 스티어링 경고등이 켜진 경우\n시스템 이상\n차체 자세 제어(ESC) 장치와 전동 파워 스티어\n링에 이상이 있을 때는 샤시 통합 제어(VSM)도\n작동하지 않습니다. 차체 자세 제어(ESC) 장치\n작동 정지 표시등이나 전동 파워 스티어링\n경고등이 계속 켜지는 경우 당사 직영 하이\n테크센터나 블루핸즈에서 점검 및 정비를 받으\n십시오. \n\n • 일정 속도 이상에서 커브길 주행 시 샤시 통\n합 제어 시스템이 작동하지 않습니다.\n• 샤시 통합 제어(VSM)는 일정 속도 이상으로\n주행 중에 마찰 계수가 다른 노면에서 ABS\n가 작동할 때 작동합니다.\n마찰 계수가 다른 노면이란 왼쪽 타이어는 얼음\n판, 오른쪽 타이어는 아스팔트를 걸쳐서 주행\n하고 있을 때처럼 양쪽 타이어에 걸리는 마찰\n정도가 다른 길을 의미합니다.\n샤시 통합 제어 시스템은 운전자를 위한 보조\n시스템입니다.\n차량 안전 및 통제는 운전자 스스로의 판단에\n의해 이루어져야 합니다. 시스템에 의존하여\n위험한 주행을 해서는 안 되며, 항상 스티어링\n휠을 확실하게 잡고 안전한 제동 거리를 확보해\n야 합니다. 필요하면 브레이크 페달을 밟아 속\n도를 줄이십시오.\n샤시 통합 제어 시스템 작동 중에도 도로 및 주\n행 상태에 대하여 세심하고 지속적인 주의를 기\n울이십시오.\n차량 출고 시 제공된 타이어 및 휠과 다른 사이\n즈 또는 다른 타입의 타이어와 휠을 사용하지\n마십시오. 시스템 오작동의 원인이 될 수 있습\n니다.",
"열선 시트\n추울 때 히터와 함께 열선 시트를 사용하십시오. \n\n 앞좌석 열선 시트 사용\n• 시동이 걸린 상태에서 해당 좌석 열선 시트\n버튼을 누르면 해당 좌석의 열선 기능이 켜\n집니다.\n• 열선 시트 작동 중 좌석 온도가 일정 온도 이\n상 높아지면 자동으로 작동을 멈추고, 일정\n온도 이하로 내려가면 다시 작동합니다. \n\n • 좌석 온도 조절\n- 수동 조절\n좌석 히터 버튼을 누를 때마다 또\n는 ∧/∨ 아이콘을 터치할 때마다\n아래와 같이 온도가 조절됩니다.\n- 자동 조절\n저온 화상 방지를 위해 열선 시트를 수동\n으로 켠 다음부터는 자동으로 좌석 온도가\n조절됩니다.\n고온으로 다시 설정하려면 버튼을 눌러 조절\n하십시오. 수동으로 온도를 조절한 후 일정\n시간이 지나면 다시 자동 조절됩니다.\n• 시동을 껐다가 다시 걸면 열선 시트는 항상\n꺼진 상태가 됩니다.\n단, 운전석 공조 연동 자동 제어 기능이 켜져\n있으면 운전석은 외기 온도에 따라 켜질 수\n도 있습니다.\n• 운전석 공조 연동 자동 제어(운전석)\n기능을 켜려면 인포테인먼트 시스템의 설정\n> 차량 > 시트 > 열선/통풍 편의 > 공조 연동\n자동 제어 > 운전석 시트 열선/통풍을 차례로\n선택하십시오.\n시동을 걸면 운전석 열선 시트 기능이 차량\n의 내부/외부 온도에 따라 자동으로 제어됩\n니다.\n업데이트로 인해 인포테인먼트 시스템의 상\n세 설정이 변경될 수 있습니다. 자세한 설정\n방법은 인포테인먼트 웹 매뉴얼을 참고하십\n시오. \n\n 뒷좌석 열선 시트 사용\n• 시동을 건 상태에서 해당 좌석 열선 버튼을\n누르면 강약 조절 표시등이 켜져 사용 중임\n을 나타내고 해당 좌석의 열선이 켜집니다.\n• 열선 시트 작동(표시등 켜짐) 상태에서 좌석\n온도가 일정 온도 이상 높아지면 자동으로\n작동을 멈추고, 온도가 내려가면 다시 작동\n하게 됩니다.\n• 좌석 온도 조절\n- 수동 조절\n열선 시트 버튼을 누를 때마다 아래와 같\n이 온도 조절이 됩니다.\n- 자동 조절\n저온 화상 방지를 위해 열선 시트를 수동\n으로 켠 다음부터는 자동으로 좌석 온도가\n조절됩니다."
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [4, 4]This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
First install the Sentence Transformers library:
pip install -U sentence-transformers
Then you can load this model and run inference.
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
'전방 주차 거리 경고 기능이 활성화되는 조건과 작동하는 차량 속도는 어떻게 되나요?',
"주차 거리 경고 작동 \n\n 주차 안전 버튼\n주차 안전 버튼을 누르면 주차 거리 경고 기\n능을 켜거나 끌 수 있습니다.\n• 기능이 꺼져있는 상태(버튼 내 표시등 꺼져\n있음)에서 ‘R’(후진)로 변속하면 자동으로 기\n능이 켜집니다.\n• ‘R’(후진) 상태에서는 안전한 주차를 위해 주\n차 안전 버튼을 눌러도 기능이 꺼지지 않\n습니다. \n\n 전방 주차 거리 경고\n전방 주차 거리 경고 기능은 다음의 조건에서\n켜집니다.\n• 'R'(후진)에서 'D'(주행)로 변속\n• 'D'(주행)에서 주차 안전 버튼 내 표시등\n켜진 상태 유지\n• 'D'(주행)로 주행 중 전방 주차 거리 경고 기\n능의 경고 발생\n• 기능이 꺼져있는 상태에서 ‘D’(주행)로 변속\n(인포테인먼트 시스템의 설정 > 차량 > 운전\n자 보조 > 주차 안전 > 주차 거리 경고 자동 켜\n짐이 선택된 경우)\n• 전방 주차 거리 경고는 차량 속도가 10 km/h\n이하일 때만 작동합니다.\n• 'R'(후진)에서는 전방 내측에 위치한 물체는\n경고하지 않으며, 전방 외측의 60cm 이하\n의 물체만 경고음과 함께 경고합니다.\n• 주차 거리 경고 자동 켜짐을 선택하지 않은 경\n우 차량 속도가 30 km/h 이상이면 전방 주\n차 거리 경고 기능이 꺼집니다(버튼 내 표시\n등 꺼짐). 다시 10 km/h 이하로 주행해도 기\n능은 자동으로 켜지지 않습니다.\n(인포테인먼트 시스템의 설정 > 차량 > 운전\n자 보조 > 주차 안전 > 주차 거리 경고 자동 켜\n짐을 선택하지 않은 경우) \n\n 경고 표시 및 경고음\n물체와의 거리 60-120cm : 경고음 삐--- 삐--- (전방 외측 미출력)\n물체와의 거리 30-60cm : 경고음 삐-삐-삐-\n물체와의 거리 30cm 이내 : 경고음 삐(연속음) \n\n • 각 초음파센서가 사람 또는 물체를 감지하면\n클러스터 표시창 또는 인포테인먼트 시스템\n화면에 표시되고, 경고음이 울립니다.\n• 둘 이상의 영역을 동시에 경고하는 경우 더\n가까운 물체가 있는 영역의 경고음이 울립니\n다.\n• 물체와의 거리가 60 cm 이상일 때, 전방 외\n측 단독 경고는 클러스터에 표시하지 않습니\n다.\n• 표시등 형상은 실제 차량과 다를 수 있습니\n다. \n\n 후방 주차 거리 경고\n후방 주차 거리 경고 기능은 다음의 조건에서\n켜집니다.\n• 'R'(후진)로 변속 \n\n 경고 표시 및 경고음\n물체와의 거리 60-120cm : 경고음 삐--- 삐---\n물체와의 거리 30-60cm : 경고음 삐-삐-삐-\n물체와의 거리 30cm 이내 : 경고음 삐(연속음) \n\n • 각 초음파센서가 사람 또는 물체를 감지하면\n클러스터 표시창 또는 인포테인먼트 시스템\n화면에 표시되고, 경고음이 울립니다.\n• 둘 이상의 영역을 동시에 경고하는 경우 더\n가까운 물체가 있는 영역의 경고음이 울립니\n다.\n• 표시등 형상은 실제 차량과 다를 수 있습니\n다.",
'빌트인 캠 설정\n설정 방법\n인포테인먼트 시스템 홈 화면에서 빌트인 캠을\n선택한 후, 빌트인 캠 설정 메뉴를 선택하십시\n오. 빌트인 캠 녹화를 포함하여 작동과 관련된\n다양한 항목을 설정할 수 있습니다. \n\n 빌트인 캠 설정은 운전자 프로필과 연동되어 있\n으며, 프로필 마다 원하는 녹화 조건을 다르게\n설정할 수 있습니다.\n• 디지털 키를 사용하거나 인포테인먼트 시스\n템 화면에서 운전자를 변경하는 경우 빌트인\n캠의 설정이 각 운전자의 프로필 설정에 따\n라 변경됩니다.\n• 모든 설정 항목은 운전자에 따라 변경됩니\n다. 단, 저장된 영상과 Wi-Fi 비밀번호는 운\n전자에 따라 변경되지 않습니다.\n• 사용자 프로필을 삭제하거나 설정을 초기화\n할 경우 빌트인 캠 설정도 동시에 초기화 되\n며 원하는 녹화 조건으로 다시 설정이 필요\n합니다. \n\n *녹화\n주행 중 녹화/주차 중 녹화 및 음성 녹음\n주행 및 주차 시 녹화 방법과 음성 녹음 여부를\n선택할 수 있습니다.\n단, 주차 중 상시 영상과 타임랩스 영상은 음성\n녹음이 되지 않습니다. \n\n 차량 출고 후 최초 한 번은 인포테인먼트 시스\n템에서 운전자1 또는 운전자2 프로필을 선택하\n여 사용자 초기 설정을 완료할 경우에 게스트\n프로필을 포함한 모든 프로필의 주행 및 주차\n중 상시 녹화, 이벤트 녹화 기능이 자동으로 활\n성화됩니다.\n단, 운전자1 또는 운전자2 프로필을 설정하기\n전에 게스트 프로필에서 이미 녹화 설정을 한\n경우에는 기존 설정 상태가 유지됩니다. \n\n *주행 정보 표시\n빌트인 캠 영상에 다양한 주행 정보를 기록할\n수 있으며, 주행 정보 표시 메뉴에서 원하는 항\n목을 선택할 수 있습니다.\n• 시간: 인포테인먼트 시스템에서 표시되는 날\n짜/시간을 저장합니다.\n• 속도: 클러스터에서 표시되는 차량의 속도를\n저장합니다.\n• 기어: 클러스터에서 표시되는 변속 기어의\n위치를 저장합니다.\n• 방향 지시등: 좌 우측 방향 지시등 작동 상태\n를 저장합니다.\n• 충격 감지 정도: 빌트인 캠의 충격 감지 센서\n를 통해 감지된 충격을 5단계로 저장합니다.\n• 위치: 내비게이션 지도에서 표시되는 차량의\nGPS 위치 정보를 저장합니다.\n• 클러스터에 표시되는 속도는 법규상 실제 차\n량의 속도보다 높게 표시되어, 차이가 있을\n수 있습니다.\n• GPS 위치 정보는 차량 위치 및 위성 신호 수\n신 환경에 따라 정확한 위치 정보가 저장되\n지 않을 수 있습니다.\n• 주행 정보 표시를 선택하지 않은 상태에서\n녹화가 완료된 영상은 이후에 주행 정보를\n다시 표시할 수는 없습니다. \n\n *녹화 시간\n주차 중 녹화 시간, 이벤트 녹화 시간, 타임랩스\n녹화 시간 및 간격을 선택할 수 있습니다. \n\n • 12 V 리튬 보조 배터리 충전량에 따른 녹화 가\n능한 예상 시간을 빌트인 캠 메뉴의 주차 녹\n화 가능 시간 또는 블루링크 앱을 통해서 확\n인할 수 있습니다. 휴대폰에서 주차 녹화 가\n능 시간을 확인하려면 블루링크 서비스에 가\n입한 경우에만 사용할 수 있습니다.\n• 12 V 리튬 보조 배터리 충전량이 충분치 않은\n경우, 설정한 주차 녹화 시간 이전에 녹화가\n종료될 수 있습니다.\n• 12 V 리튬 보조 배터리는 빌트인 캠 주차 녹화\n이외에도 차량 제어기/내비게이션 무선 업\n데이트, 시동 배터리 보조 등과 같이 차량의\n안정적인 전원 공급을 위해서도 사용되어,\n차량 상태에 따라 예상했던 주차 녹화 가능\n시간 이전에 녹화가 종료될 수 있습니다. \n\n *충격 감지 민감도\n주행 및 주차 중 이벤트 녹화 여부의 기준이 되\n는 ‘충격 감지 민감도’를 선택할 수 있습니다. 1\n단계(매우 둔감), 2단계(둔감), 3단계(보통), 4\n단계(민감), 5단계(매우 민감) 중에 원하는 감\n지 조건을 선택하십시오. \n\n *디스플레이 설정\n전/후방 녹화 영상의 높이를 조절할 수 있습니\n다. 영상 화면을 보고 원하는 높이를 선택하십\n시오. \n\n *앱 연결\nWi-Fi 설정\n휴대폰 앱 연결을 위한 Wi-Fi 를 활성화 하거\n나, Wi-Fi 비밀번호를 설정할 수 있습니다.\n주차 중 이벤트 휴대폰 알림\n차량을 잠근 후 도난 경보 장치가 작동 중인 상\n태에서 주차 중 이벤트 영상이 저장되면 블루링\n크 앱으로 메시지와 동영상을 전송하여 충격 감\n지를 알립니다. 주차 후 최대 5회까지만 서비스\n가 제공되며, 알림 서비스를 사용하려면 주차\n중 이벤트 휴대폰 알림을 선택하십시오.\n• 주차 중 이벤트 휴대폰 알림은 블루링크 서\n비스에 가입한 경우에만 사용할 수 있습니\n다.\n• 주차 후 휴대폰 알림 횟수(5회)가 초과되어\n알림이 오지 않더라도 녹화는 작동하고 있습\n니다.\n• 주차 중 이벤트 알림 기능을 사용할 경우 차\n량의 배터리 전력이 소모되어, 예상했던 주\n차 녹화 가능 시간 이전에 녹화가 종료될 수\n있습니다. \n\n *SD 메모리\n녹화 영상 저장을 위한 SD 메모리의 수명 상태,\nSD 메모리 단자 위치를 확인할 수 있습니다.\nSD 메모리를 안전하게 제거하지 않는 경우 저\n장된 파일 또는 파일 시스템이 손상될 수 있습\n니다. ‘연결 해제’ 버튼을 누른 후 메모리를 안\n전하게 제거하십시오.\nSD 메모리를 초기화 할 경우 저장된 모든 파일\n이 삭제되니, 초기화 이전에 보관이 필요한 파\n일은 필히 백업해 주십시오.\n정품 SD 메모리를 사용하지 않는 경우 SD 메모\n리의 수명 상태 정보는 표시되지 않을 수 있습\n니다.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
InformationRetrievalEvaluator| Metric | Value |
|---|---|
| cosine_accuracy@1 | 0.0367 |
| cosine_accuracy@3 | 0.6726 |
| cosine_accuracy@5 | 0.806 |
| cosine_accuracy@10 | 0.8892 |
| cosine_precision@1 | 0.0367 |
| cosine_precision@3 | 0.2242 |
| cosine_precision@5 | 0.1612 |
| cosine_precision@10 | 0.0889 |
| cosine_recall@1 | 0.0367 |
| cosine_recall@3 | 0.6726 |
| cosine_recall@5 | 0.806 |
| cosine_recall@10 | 0.8892 |
| cosine_ndcg@10 | 0.5214 |
| cosine_mrr@10 | 0.398 |
| cosine_map@100 | 0.4025 |
sentence_0 and sentence_1| sentence_0 | sentence_1 | |
|---|---|---|
| type | string | string |
| details |
|
|
| sentence_0 | sentence_1 |
|---|---|
수중 주행 후 점검해야 할 자동차 부품에는 어떤 것들이 있나요? |
수중 주행 후의 점검 및 조치 |
어드밴스드 후석 승객 알림이 작동하지 않을 수 있는 상황에는 어떤 것들이 있나요? |
어드밴스드 후석 승객 알림이 장착되어 있더라 |
장기간 주차하거나 LPG 누출과 같은 긴급상황이 발생했을 때 어떻게 해야 합니까? |
LPI 차량 관리 요령 |
MultipleNegativesRankingLoss with these parameters:{
"scale": 20.0,
"similarity_fct": "cos_sim"
}
eval_strategy: stepsper_device_train_batch_size: 5per_device_eval_batch_size: 5num_train_epochs: 40fp16: Truemulti_dataset_batch_sampler: round_robinoverwrite_output_dir: Falsedo_predict: Falseeval_strategy: stepsprediction_loss_only: Trueper_device_train_batch_size: 5per_device_eval_batch_size: 5per_gpu_train_batch_size: Noneper_gpu_eval_batch_size: Nonegradient_accumulation_steps: 1eval_accumulation_steps: Nonetorch_empty_cache_steps: Nonelearning_rate: 5e-05weight_decay: 0.0adam_beta1: 0.9adam_beta2: 0.999adam_epsilon: 1e-08max_grad_norm: 1num_train_epochs: 40max_steps: -1lr_scheduler_type: linearlr_scheduler_kwargs: {}warmup_ratio: 0.0warmup_steps: 0log_level: passivelog_level_replica: warninglog_on_each_node: Truelogging_nan_inf_filter: Truesave_safetensors: Truesave_on_each_node: Falsesave_only_model: Falserestore_callback_states_from_checkpoint: Falseno_cuda: Falseuse_cpu: Falseuse_mps_device: Falseseed: 42data_seed: Nonejit_mode_eval: Falseuse_ipex: Falsebf16: Falsefp16: Truefp16_opt_level: O1half_precision_backend: autobf16_full_eval: Falsefp16_full_eval: Falsetf32: Nonelocal_rank: 0ddp_backend: Nonetpu_num_cores: Nonetpu_metrics_debug: Falsedebug: []dataloader_drop_last: Falsedataloader_num_workers: 0dataloader_prefetch_factor: Nonepast_index: -1disable_tqdm: Falseremove_unused_columns: Truelabel_names: Noneload_best_model_at_end: Falseignore_data_skip: Falsefsdp: []fsdp_min_num_params: 0fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}fsdp_transformer_layer_cls_to_wrap: Noneaccelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}deepspeed: Nonelabel_smoothing_factor: 0.0optim: adamw_torchoptim_args: Noneadafactor: Falsegroup_by_length: Falselength_column_name: lengthddp_find_unused_parameters: Noneddp_bucket_cap_mb: Noneddp_broadcast_buffers: Falsedataloader_pin_memory: Truedataloader_persistent_workers: Falseskip_memory_metrics: Trueuse_legacy_prediction_loop: Falsepush_to_hub: Falseresume_from_checkpoint: Nonehub_model_id: Nonehub_strategy: every_savehub_private_repo: Nonehub_always_push: Falsegradient_checkpointing: Falsegradient_checkpointing_kwargs: Noneinclude_inputs_for_metrics: Falseinclude_for_metrics: []eval_do_concat_batches: Truefp16_backend: autopush_to_hub_model_id: Nonepush_to_hub_organization: Nonemp_parameters: auto_find_batch_size: Falsefull_determinism: Falsetorchdynamo: Noneray_scope: lastddp_timeout: 1800torch_compile: Falsetorch_compile_backend: Nonetorch_compile_mode: Noneinclude_tokens_per_second: Falseinclude_num_input_tokens_seen: Falseneftune_noise_alpha: Noneoptim_target_modules: Nonebatch_eval_metrics: Falseeval_on_start: Falseuse_liger_kernel: Falseeval_use_gather_object: Falseaverage_tokens_across_devices: Falseprompts: Nonebatch_sampler: batch_samplermulti_dataset_batch_sampler: round_robin| Epoch | Step | Training Loss | cosine_ndcg@10 |
|---|---|---|---|
| 0.6173 | 50 | - | 0.5753 |
| 1.0 | 81 | - | 0.5713 |
| 1.2346 | 100 | - | 0.5707 |
| 1.8519 | 150 | - | 0.5762 |
| 2.0 | 162 | - | 0.5763 |
| 2.4691 | 200 | - | 0.5766 |
| 3.0 | 243 | - | 0.5749 |
| 3.0864 | 250 | - | 0.5755 |
| 3.7037 | 300 | - | 0.5751 |
| 4.0 | 324 | - | 0.5791 |
| 4.3210 | 350 | - | 0.5769 |
| 4.9383 | 400 | - | 0.5750 |
| 5.0 | 405 | - | 0.5760 |
| 5.5556 | 450 | - | 0.5696 |
| 6.0 | 486 | - | 0.5738 |
| 6.1728 | 500 | 0.0777 | 0.5720 |
| 6.7901 | 550 | - | 0.5561 |
| 7.0 | 567 | - | 0.5639 |
| 7.4074 | 600 | - | 0.5672 |
| 8.0 | 648 | - | 0.5603 |
| 8.0247 | 650 | - | 0.5617 |
| 8.6420 | 700 | - | 0.5685 |
| 9.0 | 729 | - | 0.5661 |
| 9.2593 | 750 | - | 0.5657 |
| 9.8765 | 800 | - | 0.5582 |
| 10.0 | 810 | - | 0.5611 |
| 10.4938 | 850 | - | 0.5591 |
| 11.0 | 891 | - | 0.5533 |
| 11.1111 | 900 | - | 0.5640 |
| 11.7284 | 950 | - | 0.5592 |
| 12.0 | 972 | - | 0.5627 |
| 12.3457 | 1000 | 0.0236 | 0.5622 |
| 12.9630 | 1050 | - | 0.5508 |
| 13.0 | 1053 | - | 0.5510 |
| 13.5802 | 1100 | - | 0.5437 |
| 14.0 | 1134 | - | 0.5624 |
| 14.1975 | 1150 | - | 0.5434 |
| 14.8148 | 1200 | - | 0.5632 |
| 15.0 | 1215 | - | 0.5639 |
| 15.4321 | 1250 | - | 0.5557 |
| 16.0 | 1296 | - | 0.5496 |
| 16.0494 | 1300 | - | 0.5452 |
| 16.6667 | 1350 | - | 0.5470 |
| 17.0 | 1377 | - | 0.5462 |
| 17.2840 | 1400 | - | 0.5592 |
| 17.9012 | 1450 | - | 0.5606 |
| 18.0 | 1458 | - | 0.5621 |
| 18.5185 | 1500 | 0.0194 | 0.5514 |
| 19.0 | 1539 | - | 0.5555 |
| 19.1358 | 1550 | - | 0.5456 |
| 19.7531 | 1600 | - | 0.5458 |
| 20.0 | 1620 | - | 0.5452 |
| 20.3704 | 1650 | - | 0.5401 |
| 20.9877 | 1700 | - | 0.5537 |
| 21.0 | 1701 | - | 0.5514 |
| 21.6049 | 1750 | - | 0.5469 |
| 22.0 | 1782 | - | 0.5403 |
| 22.2222 | 1800 | - | 0.5429 |
| 22.8395 | 1850 | - | 0.5377 |
| 23.0 | 1863 | - | 0.5385 |
| 23.4568 | 1900 | - | 0.5385 |
| 24.0 | 1944 | - | 0.5325 |
| 24.0741 | 1950 | - | 0.5216 |
| 24.6914 | 2000 | 0.0148 | 0.5354 |
| 25.0 | 2025 | - | 0.5467 |
| 25.3086 | 2050 | - | 0.5426 |
| 25.9259 | 2100 | - | 0.5340 |
| 26.0 | 2106 | - | 0.5354 |
| 26.5432 | 2150 | - | 0.5346 |
| 27.0 | 2187 | - | 0.5414 |
| 27.1605 | 2200 | - | 0.5375 |
| 27.7778 | 2250 | - | 0.5495 |
| 28.0 | 2268 | - | 0.5445 |
| 28.3951 | 2300 | - | 0.5373 |
| 29.0 | 2349 | - | 0.5282 |
| 29.0123 | 2350 | - | 0.5277 |
| 29.6296 | 2400 | - | 0.5457 |
| 30.0 | 2430 | - | 0.5341 |
| 30.2469 | 2450 | - | 0.5315 |
| 30.8642 | 2500 | 0.0142 | 0.5355 |
| 31.0 | 2511 | - | 0.5417 |
| 31.4815 | 2550 | - | 0.5366 |
| 32.0 | 2592 | - | 0.5375 |
| 32.0988 | 2600 | - | 0.5376 |
| 32.7160 | 2650 | - | 0.5410 |
| 33.0 | 2673 | - | 0.5249 |
| 33.3333 | 2700 | - | 0.5275 |
| 33.9506 | 2750 | - | 0.5254 |
| 34.0 | 2754 | - | 0.5261 |
| 34.5679 | 2800 | - | 0.5313 |
| 35.0 | 2835 | - | 0.5216 |
| 35.1852 | 2850 | - | 0.5225 |
| 35.8025 | 2900 | - | 0.5164 |
| 36.0 | 2916 | - | 0.5197 |
| 36.4198 | 2950 | - | 0.5256 |
| 37.0 | 2997 | - | 0.5309 |
| 37.0370 | 3000 | 0.0133 | 0.5328 |
| 37.6543 | 3050 | - | 0.5245 |
| 38.0 | 3078 | - | 0.5205 |
| 38.2716 | 3100 | - | 0.5216 |
| 38.8889 | 3150 | - | 0.5284 |
| 39.0 | 3159 | - | 0.5300 |
| 39.5062 | 3200 | - | 0.5277 |
| 40.0 | 3240 | - | 0.5214 |
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
@misc{henderson2017efficient,
title={Efficient Natural Language Response Suggestion for Smart Reply},
author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
year={2017},
eprint={1705.00652},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
Base model
BAAI/bge-m3