Upload fine-tuned reranker model from Colab

README.md

@@ -1,3 +1,305 @@
 ---
-license: mit
----
+tags:
+- sentence-transformers
+- cross-encoder
+- reranker
+- generated_from_trainer
+- dataset_size:7598
+- loss:BinaryCrossEntropyLoss
+base_model: Dongjin-kr/ko-reranker
+pipeline_tag: text-ranking
+library_name: sentence-transformers
+---
+
+# CrossEncoder based on Dongjin-kr/ko-reranker
+
+This is a [Cross Encoder](https://www.sbert.net/docs/cross_encoder/usage/usage.html) model finetuned from [Dongjin-kr/ko-reranker](https://huggingface.co/Dongjin-kr/ko-reranker) using the [sentence-transformers](https://www.SBERT.net) library. It computes scores for pairs of texts, which can be used for text reranking and semantic search.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Cross Encoder
+- **Base model:** [Dongjin-kr/ko-reranker](https://huggingface.co/Dongjin-kr/ko-reranker) <!-- at revision 8c2ab1a833734491fd3158164dd2b7d8b28e071c -->
+- **Maximum Sequence Length:** 256 tokens
+- **Number of Output Labels:** 1 label
+<!-- - **Training Dataset:** Unknown -->
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Documentation:** [Cross Encoder Documentation](https://www.sbert.net/docs/cross_encoder/usage/usage.html)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/huggingface/sentence-transformers)
+- **Hugging Face:** [Cross Encoders on Hugging Face](https://huggingface.co/models?library=sentence-transformers&other=cross-encoder)
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import CrossEncoder
+
+# Download from the 🤗 Hub
+model = CrossEncoder("cross_encoder_model_id")
+# Get scores for pairs of texts
+pairs = [
+    ['외식경영과 전공 추천 자격증', '[자격증명: 소방시설관리사] 자격증명: 소방시설관리사 | 유형: 국가전문자격 | 분야: 소방방재 | NCS분류: 법률.경찰.소방.교도.국방 | 등급: 34 | 관련전공: AI산업안전시스템, 산업소방안전과, 산업안전과, 산업안전관리과, 산업안전보건과, 산업안전보건융합학과, 산업안전융합학과, 산업안전전공, 산업안전학부, 산업안전환경계열, 스마트안전융합과, 안전및산업경영공학과, 안전및산업경영공학과(2년제), 안전및산업경영과, 안전소방학과, 안전특성화계열, 융합안전공학과, 재난건설안전과, 재난시설안전과, 소방안전관리과, 소방ᆞ산업안전관리학과, 소방구조구급과, 소방방재과, 소방방재안전과, 소방안전과, 소방안전관리과(P-TECH), 소방안전관리전공, 소방안전관리학과(3년제), 소방안전융합과, 소방재난안전과, 소방재난안전학과, 소방행정・안전관리과, 소방환경방재과, 소방환경안전과, 재난소방・건설안전과, 재난안전시스템과, 건설안전공학과, 산업안전학과, 안전보건학과, 건설스마트안전공학과, 건설시스템안전공학과, 방재안전공학'],
+    ['일본어과 전공 추천 자격증', '[자격증명: 건강운동관리사] 자격증명: 건강운동관리사 | 유형: 국가전문자격 | 분야: 스포츠 | NCS분류: 이용.숙박.여행.오락.스포츠 | 관련전공: AI보건정보관리학과, 공공복지정보관리학과, 공공서비스학부(헬스케어서비스전공), 공중보건학과, 공중보건학전공, 바이오헬스융합대학, 바이오헬스컨디셔닝학과, 보건건강관리학과(보건건강관리전공), 보건과학대학, 보건과학부, 보건관리전공, 보건관리학과, 보건관리학과(자연과학), 보건산업유통학전공, 보건안전전공, 보건의료경영전공, 보건의료경영학과, 보건의료관리학과, 보건의료복지학과, 보건의료복지학과(인문사회계열), 보건의료정보관리학전공, 보건의료학부, 보건의료행정전공, 보건학부, 보건환경학부, 뷰티건강디자인학과, 산업보건학과, 산업보건학전공, 산업안전보건전공, 실버보건학과, 융합보건학과, 헬스케어융합학부(자연과학), 레저해양스포츠학과, 해양레저관광학과, 해양레저학과, 해양스포츠ᆞ레저융합학과, 해양스포츠과학과, 해양스포츠전공, 해양스포츠학과, 해양체육학과, 해양치유레'],
+    ['세무경영과 학과인데 뭐 따면 좋을까', '[자격증명: 무대예술전문인(무대기계) 2급] 자격증명: 무대예술전문인(무대기계) 2급 | 유형: 국가전문자격 | 분야: 방송기술 | NCS분류: 정보통신 | 관련전공: 공연미디어콘텐츠계열, 공연미디어콘텐츠과, 공연예술과, 공연예술과(3년제), 공연창작학부, 아트앤플레이군, 한국문화예술과, AI서비스마케팅학과, 공항홍보전공, 광고.PR.브랜딩전공, 광고PR전공, 광고PR학과, 광고미디어학과, 광고영상창작학과, 광고홍보문화콘텐츠전공, 광고홍보언론학과, 광고홍보언론학부, 광고홍보영상미디어학부, 광고홍보영상학과, 광고홍보이벤트학과, 광고홍보전공, 광고홍보전공 트랙, 광고홍보콘텐츠학과, 광고홍보학과, 광고홍보학부, 광고홍보학전공, 디지털마케팅학과, 디지털영상마케팅학과, 미디어광고학과, 미디어영상광고홍보학, 미디어영상광고홍보학부, 빅데이터광고마케팅학과, 산업・광고심리학과, 스마트콘텐츠마케팅학과, 홍보광고학과, 홍보디자인학전공, 방송극작과, 공연예술계열 뮤지컬, 뮤지컬연기과, 뮤지컬연기전공, 뮤지컬연기학과, 방송연예'],
+    ['농업기술자 취업용 자격증', '[자격증명: 시설원예기사] 자격증명: 시설원예기사 | 유형: 국가기술자격 | 분야: 농업 | NCS분류: 농림어업 | 시행기관: 한국산업인력공단 | 등급: 기사 | 관련전공: 원예산림학부, 산림생태보호학과, 산림융복합학전공, 산림조경원예학과, 스마트그린케어학과, 스마트원예과학과, 스마트팜과학과, 원예·농업자원경제학부, 원예・생약융합학부, 원예과학과, 원예과학부, 원예과학전공, 원예산림학과, 원예산업학과, 원예산업학부, 원예생명공학과, 원예생명공학전공, 원예생명과학과, 원예생명조경학과, 원예육종학과, 원예치료전공, 원예학과, 원예환경전공, 환경디자인원예학과, 환경원예조경학부, 환경원예학과, 생명자원학부, 생명자원융합학과, 생명자원환경과학부, 생물자원과학부, 식량생명공학과, 식량자원과학과, 식의약자원개발학과, 자원공학과'],
+    ['철골공 취업용 자격증', '[자격증명: 기계조립산업기사] 자격증명: 기계조립산업기사 | 유형: 국가기술자격 | 분야: 기계가공 | NCS분류: 기계 | 시행기관: 한국산업인력공단 | 등급: 산업기사 | 관련전공: 기계공학전공, 기계시스템공학과, 기계자동차공학과, 기계자동차공학부, 드론기계학과, 생산기계공학과, 스마트기계공학과, 융합기계공학과, 정밀기계공학과, AI융합기계계열, AI융합기계공학과, AI융합기계과, AI융합기계학과, K-산업기술학부, 공조기계과, 글로벌산업기술과, 글로벌산업기술과(보건산업), 글로벌산업기술과(전공심화), 글로벌산업인재과, 글로벌산업학과, 기계계열, 기계공학계열, 기계공학과(2년제), 기계과, 기계과(2년제), 기계보전과, 기계시스템과, 기계시스템과(ICT기계가공), 기계시스템과(기계융합시스템), 기계시스템디자인과, 기계자동차과, 기계품질관리과, 냉동공조설비공학과, 냉동공조설비과, 디지털기계시스템과, 디지털기계시스템과(기계융합시스템), 디지털기계학부, 디지털융합기계과, 미래모빌리티설계과, 미래모빌리티제조'],
+]
+scores = model.predict(pairs)
+print(scores.shape)
+# (5,)
+
+# Or rank different texts based on similarity to a single text
+ranks = model.rank(
+    '외식경영과 전공 추천 자격증',
+    [
+        '[자격증명: 소방시설관리사] 자격증명: 소방시설관리사 | 유형: 국가전문자격 | 분야: 소방방재 | NCS분류: 법률.경찰.소방.교도.국방 | 등급: 34 | 관련전공: AI산업안전시스템, 산업소방안전과, 산업안전과, 산업안전관리과, 산업안전보건과, 산업안전보건융합학과, 산업안전융합학과, 산업안전전공, 산업안전학부, 산업안전환경계열, 스마트안전융합과, 안전및산업경영공학과, 안전및산업경영공학과(2년제), 안전및산업경영과, 안전소방학과, 안전특성화계열, 융합안전공학과, 재난건설안전과, 재난시설안전과, 소방안전관리과, 소방ᆞ산업안전관리학과, 소방구조구급과, 소방방재과, 소방방재안전과, 소방안전과, 소방안전관리과(P-TECH), 소방안전관리전공, 소방안전관리학과(3년제), 소방안전융합과, 소방재난안전과, 소방재난안전학과, 소방행정・안전관리과, 소방환경방재과, 소방환경안전과, 재난소방・건설안전과, 재난안전시스템과, 건설안전공학과, 산업안전학과, 안전보건학과, 건설스마트안전공학과, 건설시스템안전공학과, 방재안전공학',
+        '[자격증명: 건강운동관리사] 자격증명: 건강운동관리사 | 유형: 국가전문자격 | 분야: 스포츠 | NCS분류: 이용.숙박.여행.오락.스포츠 | 관련전공: AI보건정보관리학과, 공공복지정보관리학과, 공공서비스학부(헬스케어서비스전공), 공중보건학과, 공중보건학전공, 바이오헬스융합대학, 바이오헬스컨디셔닝학과, 보건건강관리학과(보건건강관리전���), 보건과학대학, 보건과학부, 보건관리전공, 보건관리학과, 보건관리학과(자연과학), 보건산업유통학전공, 보건안전전공, 보건의료경영전공, 보건의료경영학과, 보건의료관리학과, 보건의료복지학과, 보건의료복지학과(인문사회계열), 보건의료정보관리학전공, 보건의료학부, 보건의료행정전공, 보건학부, 보건환경학부, 뷰티건강디자인학과, 산업보건학과, 산업보건학전공, 산업안전보건전공, 실버보건학과, 융합보건학과, 헬스케어융합학부(자연과학), 레저해양스포츠학과, 해양레저관광학과, 해양레저학과, 해양스포츠ᆞ레저융합학과, 해양스포츠과학과, 해양스포츠전공, 해양스포츠학과, 해양체육학과, 해양치유레',
+        '[자격증명: 무대예술전문인(무대기계) 2급] 자격증명: 무대예술전문인(무대기계) 2급 | 유형: 국가전문자격 | 분야: 방송기술 | NCS분류: 정보통신 | 관련전공: 공연미디어콘텐츠계열, 공연미디어콘텐츠과, 공연예술과, 공연예술과(3년제), 공연창작학부, 아트앤플레이군, 한국문화예술과, AI서비스마케팅학과, 공항홍보전공, 광고.PR.브랜딩전공, 광고PR전공, 광고PR학과, 광고미디어학과, 광고영상창작학과, 광고홍보문화콘텐츠전공, 광고홍보언론학과, 광고홍보언론학부, 광고홍보영상미디어학부, 광고홍보영상학과, 광고홍보이벤트학과, 광고홍보전공, 광고홍보전공 트랙, 광고홍보콘텐츠학과, 광고홍보학과, 광고홍보학부, 광고홍보학전공, 디지털마케팅학과, 디지털영상마케팅학과, 미디어광고학과, 미디어영상광고홍보학, 미디어영상광고홍보학부, 빅데이터광고마케팅학과, 산업・광고심리학과, 스마트콘텐츠마케팅학과, 홍보광고학과, 홍보디자인학전공, 방송극작과, 공연예술계열 뮤지컬, 뮤지컬연기과, 뮤지컬연기전공, 뮤지컬연기학과, 방송연예',
+        '[자격증명: 시설원예기사] 자격증명: 시설원예기사 | 유형: 국가기술자격 | 분야: 농업 | NCS분류: 농림어업 | 시행기관: 한국산업인력공단 | 등급: 기사 | 관련전공: 원예산림학부, 산림생태보호학과, 산림융복합학전공, 산림조경원예학과, 스마트그린케어학과, 스마트원예과학과, 스마트팜과학과, 원예·농업자원경제학부, 원예・생약융합학부, 원예과학과, 원예과학부, 원예과학전공, 원예산림학과, 원예산업학과, 원예산업학부, 원예생명공학과, 원예생명공학전공, 원예생명과학과, 원예생명조경학과, 원예육종학과, 원예치료전공, 원예학과, 원예환경전공, 환경디자인원예학과, 환경원예조경학부, 환경원예학과, 생명자원학부, 생명자원융합학과, 생명자원환경과학부, 생물자원과학부, 식량생명공학과, 식량자원과학과, 식의약자원개발학과, 자원공학과',
+        '[자격증명: 기계조립산업기사] 자격증명: 기계조립산업기사 | 유형: 국가기술자격 | 분야: 기계가공 | NCS분류: 기계 | 시행기관: 한국산업인력공단 | 등급: 산업기사 | 관련전공: 기계공학전공, 기계시스템공학과, 기계자동차공학과, 기계자동차공학부, 드론기계학과, 생산기계공학과, 스마트기계공학과, 융합기계공학과, 정밀기계공학과, AI융합기계계열, AI융합기계공학과, AI융합기계과, AI융합기계학과, K-산업기술학부, 공조기계과, 글로벌산업기술과, 글로벌산업기술과(보건산업), 글로벌산업기술과(전공심화), 글로벌산업인재과, 글로벌산업학과, 기계계열, 기계공학계열, 기계공학과(2년제), 기계과, 기계과(2년제), 기계보전과, 기계시스템과, 기계시스템과(ICT기계가공), 기계시스템과(기계융합시스템), 기계시스템디자인과, 기계자동차과, 기계품질관리과, 냉동공조설비공학과, 냉동공조설비과, 디지털기계시스템과, 디지털기계시스템과(기계융합시스템), 디지털기계학부, 디지털융합기계과, 미래모빌리티설계과, 미래모빌리티제조',
+    ]
+)
+# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### Unnamed Dataset
+
+* Size: 7,598 training samples
+* Columns: <code>sentence_0</code>, <code>sentence_1</code>, and <code>label</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | sentence_0                                                                                    | sentence_1                                                                                       | label                                                          |
+  |:--------|:----------------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------------------|:---------------------------------------------------------------|
+  | type    | string                                                                                        | string                                                                                           | float                                                          |
+  | details | <ul><li>min: 7 characters</li><li>mean: 15.82 characters</li><li>max: 27 characters</li></ul> | <ul><li>min: 59 characters</li><li>mean: 346.54 characters</li><li>max: 512 characters</li></ul> | <ul><li>min: 0.0</li><li>mean: 0.17</li><li>max: 1.0</li></ul> |
+* Samples:
+  | sentence_0                       | sentence_1                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | label            |
+  |:---------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:-----------------|
+  | <code>외식경영과 전공 추천 자격증</code>     | <code>[자격증명: 소방시설관리사] 자격증명: 소방시설관리사 \| 유형: 국가전문자격 \| 분야: 소방방재 \| NCS분류: 법률.경찰.소방.교도.국방 \| 등급: 34 \| 관련전공: AI산업안전시스템, 산업소방안전과, 산업안전과, 산업안전관리과, 산업안전보건과, 산업안전보건융합학과, 산업안전융합학과, 산업안전전공, 산업안전학부, 산업안전환경계열, 스마트안전융합과, 안전및산업경영공학과, 안전및산업경영공학과(2년제), 안전및산업경영과, 안전소방학과, 안전특성화계열, 융합안전공학과, 재난건설안전과, 재난시설안전과, 소방안전관리과, 소방ᆞ산업안전관리학과, 소방구조구급과, 소방방재과, 소방방재안전과, 소방안전과, 소방안전관리과(P-TECH), 소방안전관리전공, 소방안전관리학과(3년제), 소방안전융합과, 소방재난안전과, 소방재난안전학과, 소방행정・안전관리과, 소방환경방재과, 소방환경안전과, 재난소방・건설안전과, 재난안전시스템과, 건설안전공학과, 산업안전학과, 안전보건학과, 건설스마트안전공학과, 건설시스템안전공학과, 방재안전공학</code> | <code>0.0</code> |
+  | <code>일본어과 전공 추천 자격증</code>      | <code>[자격증명: 건강운동관리사] 자격증명: 건강운동관리사 \| 유형: 국가전문자격 \| 분야: 스포츠 \| NCS분류: 이용.숙박.여행.오락.스포츠 \| 관련전공: AI보건정보관리학과, 공공복지정보관리학과, 공공서비스학부(헬스케어서비스전공), 공중보건학과, 공중보건학전공, 바이오헬스융합대학, 바이오헬스컨디셔닝학과, 보건건강관리학과(보건건강관리전공), 보건과학대학, 보건과학부, 보건관리전공, 보건관리학과, 보건관리학과(자연과학), 보건산업유통학전공, 보건안전전공, 보건의료경영전공, 보건의료경영학과, 보건의료관리학과, 보건의료복지학과, 보건의료복지학과(인문사회계열), 보건의료정보관리학전공, 보건의료학부, 보건의료행정전공, 보건학부, 보건환경학부, 뷰티건강디자인학과, 산업보건학과, 산업보건학전공, 산업안전보건전공, 실버보건학과, 융합보건학과, 헬스케어융합학부(자연과학), 레저해양스포츠학과, 해양레저관광학과, 해양레저학과, 해양스포츠ᆞ레저융합학과, 해양스포츠과학과, 해양스포츠전공, 해양스포츠학과, 해양체육학과, 해양치유레</code>  | <code>0.0</code> |
+  | <code>세무경영과 학과인데 뭐 따면 좋을까</code> | <code>[자격증명: 무대예술전문인(무대기계) 2급] 자격증명: 무대예술전문인(무대기계) 2급 \| 유형: 국가전문자격 \| 분야: 방송기술 \| NCS분류: 정보통신 \| 관련전공: 공연미디어콘텐츠계열, 공연미디어콘텐츠과, 공연예술과, 공연예술과(3년제), 공연창작학부, 아트앤플레이군, 한국문화예술과, AI서비스마케팅학과, 공항홍보전공, 광고.PR.브랜딩전공, 광고PR전공, 광고PR학과, 광고미디어학과, 광고영상창작학과, 광고홍보문화콘텐츠전공, 광고홍보언론학과, 광고홍보언론학부, 광고홍보영상미디어학부, 광고홍보영상학과, 광고홍보이벤트학과, 광고홍보전공, 광고홍보전공 트랙, 광고홍보콘텐츠학과, 광고홍보학과, 광고홍보학부, 광고홍보학전공, 디지털마케팅학과, 디지털영상마케팅학과, 미디어광고학과, 미디어영상광고홍보학, 미디어영상광고홍보학부, 빅데이터광고마케팅학과, 산업・광고심리학과, 스마트콘텐츠마케팅학과, 홍보광고학과, 홍보디자인학전공, 방송극작과, 공연예술계열 뮤지컬, 뮤지컬연기과, 뮤지컬연기전공, 뮤지컬연기학과, 방송연예</code>  | <code>0.0</code> |
+* Loss: [<code>BinaryCrossEntropyLoss</code>](https://sbert.net/docs/package_reference/cross_encoder/losses.html#binarycrossentropyloss) with these parameters:
+  ```json
+  {
+      "activation_fn": "torch.nn.modules.linear.Identity",
+      "pos_weight": null
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `per_device_train_batch_size`: 4
+- `num_train_epochs`: 1
+- `fp16`: True
+- `per_device_eval_batch_size`: 4
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `per_device_train_batch_size`: 4
+- `num_train_epochs`: 1
+- `max_steps`: -1
+- `learning_rate`: 5e-05
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: None
+- `warmup_steps`: 0
+- `optim`: adamw_torch_fused
+- `optim_args`: None
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `optim_target_modules`: None
+- `gradient_accumulation_steps`: 1
+- `average_tokens_across_devices`: True
+- `max_grad_norm`: 1
+- `label_smoothing_factor`: 0.0
+- `bf16`: False
+- `fp16`: True
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `use_liger_kernel`: False
+- `liger_kernel_config`: None
+- `use_cache`: False
+- `neftune_noise_alpha`: None
+- `torch_empty_cache_steps`: None
+- `auto_find_batch_size`: False
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `include_num_input_tokens_seen`: no
+- `log_level`: passive
+- `log_level_replica`: warning
+- `disable_tqdm`: False
+- `project`: huggingface
+- `trackio_space_id`: trackio
+- `eval_strategy`: no
+- `per_device_eval_batch_size`: 4
+- `prediction_loss_only`: True
+- `eval_on_start`: False
+- `eval_do_concat_batches`: True
+- `eval_use_gather_object`: False
+- `eval_accumulation_steps`: None
+- `include_for_metrics`: []
+- `batch_eval_metrics`: False
+- `save_only_model`: False
+- `save_on_each_node`: False
+- `enable_jit_checkpoint`: False
+- `push_to_hub`: False
+- `hub_private_repo`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_always_push`: False
+- `hub_revision`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `restore_callback_states_from_checkpoint`: False
+- `full_determinism`: False
+- `seed`: 42
+- `data_seed`: None
+- `use_cpu`: False
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `parallelism_config`: None
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `dataloader_prefetch_factor`: None
+- `remove_unused_columns`: True
+- `label_names`: None
+- `train_sampling_strategy`: random
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `ddp_backend`: None
+- `ddp_timeout`: 1800
+- `fsdp`: []
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `deepspeed`: None
+- `debug`: []
+- `skip_memory_metrics`: True
+- `do_predict`: False
+- `resume_from_checkpoint`: None
+- `warmup_ratio`: None
+- `local_rank`: -1
+- `prompts`: None
+- `batch_sampler`: batch_sampler
+- `multi_dataset_batch_sampler`: proportional
+- `router_mapping`: {}
+- `learning_rate_mapping`: {}
+
+</details>
+
+### Training Logs
+| Epoch  | Step | Training Loss |
+|:------:|:----:|:-------------:|
+| 0.2632 | 500  | 0.5150        |
+| 0.5263 | 1000 | 0.4918        |
+| 0.7895 | 1500 | 0.4794        |
+| 0.2632 | 500  | 0.4184        |
+| 0.5263 | 1000 | 0.4746        |
+| 0.7895 | 1500 | 0.4503        |
+
+
+### Framework Versions
+- Python: 3.12.12
+- Sentence Transformers: 5.2.3
+- Transformers: 5.3.0
+- PyTorch: 2.10.0+cu128
+- Accelerate: 1.12.0
+- Datasets: 4.0.0
+- Tokenizers: 0.22.2
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,40 @@
+{
+  "add_cross_attention": false,
+  "architectures": [
+    "XLMRobertaForSequenceClassification"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "dtype": "float32",
+  "eos_token_id": 2,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 1024,
+  "id2label": {
+    "0": "LABEL_0"
+  },
+  "initializer_range": 0.02,
+  "intermediate_size": 4096,
+  "is_decoder": false,
+  "label2id": {
+    "LABEL_0": 0
+  },
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 514,
+  "model_type": "xlm-roberta",
+  "num_attention_heads": 16,
+  "num_hidden_layers": 24,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "sentence_transformers": {
+    "activation_fn": "torch.nn.modules.activation.Sigmoid",
+    "version": "5.2.3"
+  },
+  "tie_word_embeddings": true,
+  "transformers_version": "5.3.0",
+  "type_vocab_size": 1,
+  "use_cache": false,
+  "vocab_size": 250002
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cd72189f2e5e58cddcafd29ee300b1e89080f4a2de79c5846ff087478925f4ed
+size 2239614524

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:954f73ffaa9daed8f5d328317b8fe89335da29b0f580d9fa658de4d5bd87af21
+size 17098337

tokenizer_config.json

@@ -0,0 +1,24 @@
+{
+  "add_prefix_space": true,
+  "backend": "tokenizers",
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "extra_special_tokens": [],
+  "is_local": false,
+  "mask_token": "<mask>",
+  "max_length": 512,
+  "model_max_length": 256,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "</s>",
+  "sp_model_kwargs": {},
+  "stride": 0,
+  "tokenizer_class": "XLMRobertaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>"
+}