|
|
--- |
|
|
tags: |
|
|
- setfit |
|
|
- sentence-transformers |
|
|
- text-classification |
|
|
- generated_from_setfit_trainer |
|
|
widget: |
|
|
- text: 머리감는의자 샴푸베드 샴푸대 가정용 목욕침대 세안기 어린이 아기 접의식 블루 출산/육아 > 목욕용품 > 기타목욕용품 |
|
|
- text: 여성 목욕 유아 샤워 웨딩 플라워 타월 타올 드레스 어린이 파티 가운 플레이 솔리드 잠옷 11=CM11_8-9T 130-140cm 출산/육아 |
|
|
> 목욕용품 > 유아목욕가운 |
|
|
- text: 아동용 레이어드나시반팔티 J4385 나시티11호 트임나시13호 출산/육아 > 목욕용품 > 유아목욕가운 |
|
|
- text: 욕실 타일 바닥 미끄럼방지 스티커 12P 세트 출산/육아 > 목욕용품 > 기타목욕용품 |
|
|
- text: 가정용 테이블 디지털 온습도 전자기계 욕조온도계 측정기 출산/육아 > 목욕용품 > 유아욕탕온도계 |
|
|
metrics: |
|
|
- accuracy |
|
|
pipeline_tag: text-classification |
|
|
library_name: setfit |
|
|
inference: true |
|
|
base_model: mini1013/master_domain |
|
|
model-index: |
|
|
- name: SetFit with mini1013/master_domain |
|
|
results: |
|
|
- task: |
|
|
type: text-classification |
|
|
name: Text Classification |
|
|
dataset: |
|
|
name: Unknown |
|
|
type: unknown |
|
|
split: test |
|
|
metrics: |
|
|
- type: accuracy |
|
|
value: 1.0 |
|
|
name: Accuracy |
|
|
--- |
|
|
|
|
|
# SetFit with mini1013/master_domain |
|
|
|
|
|
This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [mini1013/master_domain](https://huggingface.co/mini1013/master_domain) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification. |
|
|
|
|
|
The model has been trained using an efficient few-shot learning technique that involves: |
|
|
|
|
|
1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning. |
|
|
2. Training a classification head with features from the fine-tuned Sentence Transformer. |
|
|
|
|
|
## Model Details |
|
|
|
|
|
### Model Description |
|
|
- **Model Type:** SetFit |
|
|
- **Sentence Transformer body:** [mini1013/master_domain](https://huggingface.co/mini1013/master_domain) |
|
|
- **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance |
|
|
- **Maximum Sequence Length:** 512 tokens |
|
|
- **Number of Classes:** 11 classes |
|
|
<!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) --> |
|
|
<!-- - **Language:** Unknown --> |
|
|
<!-- - **License:** Unknown --> |
|
|
|
|
|
### Model Sources |
|
|
|
|
|
- **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit) |
|
|
- **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055) |
|
|
- **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit) |
|
|
|
|
|
### Model Labels |
|
|
| Label | Examples | |
|
|
|:------|:-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| |
|
|
| 5.0 | <ul><li>'유키두 물놀이 고래 잠수함 샤워기 출산/육아 > 목욕용품 > 유아목욕장난감'</li><li>'베베라팡 헤엄치는 바다친구들 아기 욕조 물놀이 목욕놀이장난감 거북이 블루 출산/육아 > 목욕용품 > 유아목욕장난감'</li><li>'KC인증 목욕놀이 장난감 (고래,거북이,오리,상어) 유아 아기 물놀이 욕조 태엽 장난감 단품구성_큰고래(핑크) 출산/육아 > 목욕용품 > 유아목욕장난감'</li></ul> | |
|
|
| 7.0 | <ul><li>'릴린져샴푸캡 아기 목욕모자 샤워캡 블루 출산/육아 > 목욕용품 > 유아샴푸캡'</li><li>'돗투돗 말랑 샴푸캡 유아 목욕용품 해어캡 신생아 샴푸모자 돗바니 출산/육아 > 목욕용품 > 유아샴푸캡'</li><li>'[귀애우비] 육아꿀템 아기목욕 귀 방수 스티커 출산선물 수영장 편한착용 안아픔 샴푸캡 소형(세트) - 2Box (100매) 출산/육아 > 목욕용품 > 유아샴푸캡'</li></ul> | |
|
|
| 1.0 | <ul><li>'고리에거는 아이장난감정리망 그물주머니 흰색 출산/육아 > 목욕용품 > 욕실정리망/정리함'</li><li>'욕실그물망 정리 함 가방 수납 장난감 화이트 DC002879 출산/육아 > 목욕용품 > 욕실정리망/정리함'</li><li>'리빙 세탁바구니 1P 29x41x36cm 옷빨래 다용도수납 화이트 출산/육아 > 목욕용품 > 욕실정리망/정리함'</li></ul> | |
|
|
| 9.0 | <ul><li>'아이너바움 비건인증 홈 케어 5종 (세탁+섬유+주방+토이+욕조) 세탁세제(코튼블랑)_섬유유연제(스윗선데이)_주방세제 (시트러스/액상형) 출산/육아 > 목욕용품 > 유아욕조'</li><li>'스토케 플렉시바스 아기욕조 라지 화이트 출산/육아 > 목욕용품 > 유아욕조'</li><li>'오케이베이비 오플라 아기욕조 히포 샴푸캡 세트 동의합니다_모카그레이_민트그린 출산/육아 > 목욕용품 > 유아욕조'</li></ul> | |
|
|
| 6.0 | <ul><li>'어린이집수건 먼지없는 소창 고리수건 3겹(30X30) 5장세트 유치원 이름자수 핸드타올 소창 고리수건 3겹(30X30)-수건아래-5장_다크블루_그린 출산/육아 > 목욕용품 > 유아목욕타월'</li><li>'베이비꼬 아기목욕타월 옐로우 출산/육아 > 목욕용품 > 유아목욕타월'</li><li>'송월 베이비 어린이집 고리 수건 선물 이름자수 준비물 손수건 베이비시리즈_퍼플(열기구) 출산/육아 > 목욕용품 > 유아목욕타월'</li></ul> | |
|
|
| 4.0 | <ul><li>'샤워 타올 스틱 손잡이 볼 욕실용품 볼브러쉬 등 바디 블루 출산/육아 > 목욕용품 > 유아목욕장갑/스펀지'</li><li>'비비또 실리콘 아기목욕장갑 스펀지 신생아 유아 샤워볼 아기목욕장갑 2P(10% 할인)_헤븐리핑크_발틱블루 출산/육아 > 목욕용품 > 유아목욕장갑/스펀지'</li><li>'뉴 샤워기 거치대 각도조절 샤워기홀더 편리한 욕실용품 생활용품 샤워기걸이 당일출고 데일리 01.180캐릭터샤워홀더-버드 출산/육아 > 목욕용품 > 유아목욕장갑/스펀지'</li></ul> | |
|
|
| 8.0 | <ul><li>'유아 어린이 손씻기 세면대 수도꼭지 연장 물받이 회색 출산/육아 > 목욕용품 > 유아세면대/수도꼭지'</li><li>'모던 수도꼭지 연장탭 베이지 출산/육아 > 목욕용품 > 유아세면대/수도꼭지'</li><li>'버드시아 유아 세면대 (장난감놀이/신생아욕조/목욕놀이) 연그레이 출산/육아 > 목욕용품 > 유아세면대/수도꼭지'</li></ul> | |
|
|
| 2.0 | <ul><li>'유아 비치가운 어린이 목욕가운 아기 타올 베이비 오리 출산/육아 > 목욕용품 > 유아목욕가운'</li><li>'목욕 잠옷 가운 샤워 키구 동물 어린이 유니콘 플란넬 겨울 루미 유아 드레싱 타월 후드 11=Pinkstarunicorn_5 출산/육아 > 목욕용품 > 유아목욕가운'</li><li>'스프링스트라이프조끼 오렌지_120 출산/육아 > 목욕용품 > 유아목욕가운'</li></ul> | |
|
|
| 3.0 | <ul><li>'부품 : 아기비데 - 3in1 받침대 업그레이드 신생아 유아 출산선물 국내생산 색상추가 컴포트 3세대 받침대-엘레강스 아이보리 - 그린 출산/육아 > 목욕용품 > 유아목욕의자'</li><li>'목욕의자 미용실 머리 샴푸 대형 실내 교육 업소 의자 D 출산/육아 > 목욕용품 > 유아목욕의자'</li><li>'웰빙 은나노 목욕 의자 대 핑크 출산/육아 > 목욕용품 > 유아목욕의자'</li></ul> | |
|
|
| 0.0 | <ul><li>'나무 욕조 히노끼 이동식 홈 스타 사우나 목욕 삼나무 장90 x58 78+커버(친환경 왁스) 출산/육아 > 목욕용품 > 기타목욕용품'</li><li>'두근두근 점프대 목욕놀이 세트 3pcs 출산/육아 > 목욕용품 > 기타목욕용품'</li><li>'창신 베어트리 욕실 용품 양치컵 욕실의자 칫솔꽂이 4.창신 베어트리 욕실의자(대) 출산/육아 > 목욕용품 > 기타목욕용품'</li></ul> | |
|
|
| 10.0 | <ul><li>'밀폐형 전해 셀, 3 전극 시스템 반응기 매칭 165900 50ml 165900 50ml 출산/육아 > 목욕용품 > 유아욕탕온도계'</li><li>'직수입 디지털 온도계 습도계 탕온계 모음 스마일(심플) 온습도계 핑크 02.스마일(패턴)온습도계_화이트 출산/육아 > 목욕용품 > 유아욕탕온도계'</li><li>'(건전지 포함)디지털 대화면 온습도계 아날로그 욕실 육추기 병아리 오리 탕온도 병아리 계란 아날로그온습도계 출산/육아 > 목욕용품 > 유아욕탕온도계'</li></ul> | |
|
|
|
|
|
## Evaluation |
|
|
|
|
|
### Metrics |
|
|
| Label | Accuracy | |
|
|
|:--------|:---------| |
|
|
| **all** | 1.0 | |
|
|
|
|
|
## Uses |
|
|
|
|
|
### Direct Use for Inference |
|
|
|
|
|
First install the SetFit library: |
|
|
|
|
|
```bash |
|
|
pip install setfit |
|
|
``` |
|
|
|
|
|
Then you can load this model and run inference. |
|
|
|
|
|
```python |
|
|
from setfit import SetFitModel |
|
|
|
|
|
# Download from the 🤗 Hub |
|
|
model = SetFitModel.from_pretrained("mini1013/master_cate_bc4") |
|
|
# Run inference |
|
|
preds = model("욕실 타일 바닥 미끄럼방지 스티커 12P 세트 출산/육아 > 목욕용품 > 기타목욕용품") |
|
|
``` |
|
|
|
|
|
<!-- |
|
|
### Downstream Use |
|
|
|
|
|
*List how someone could finetune this model on their own dataset.* |
|
|
--> |
|
|
|
|
|
<!-- |
|
|
### Out-of-Scope Use |
|
|
|
|
|
*List how the model may foreseeably be misused and address what users ought not to do with the model.* |
|
|
--> |
|
|
|
|
|
<!-- |
|
|
## Bias, Risks and Limitations |
|
|
|
|
|
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.* |
|
|
--> |
|
|
|
|
|
<!-- |
|
|
### Recommendations |
|
|
|
|
|
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.* |
|
|
--> |
|
|
|
|
|
## Training Details |
|
|
|
|
|
### Training Set Metrics |
|
|
| Training set | Min | Median | Max | |
|
|
|:-------------|:----|:--------|:----| |
|
|
| Word count | 7 | 14.2403 | 27 | |
|
|
|
|
|
| Label | Training Sample Count | |
|
|
|:------|:----------------------| |
|
|
| 0.0 | 70 | |
|
|
| 1.0 | 70 | |
|
|
| 2.0 | 70 | |
|
|
| 3.0 | 70 | |
|
|
| 4.0 | 70 | |
|
|
| 5.0 | 70 | |
|
|
| 6.0 | 70 | |
|
|
| 7.0 | 70 | |
|
|
| 8.0 | 70 | |
|
|
| 9.0 | 70 | |
|
|
| 10.0 | 70 | |
|
|
|
|
|
### Training Hyperparameters |
|
|
- batch_size: (256, 256) |
|
|
- num_epochs: (30, 30) |
|
|
- max_steps: -1 |
|
|
- sampling_strategy: oversampling |
|
|
- num_iterations: 50 |
|
|
- body_learning_rate: (2e-05, 1e-05) |
|
|
- head_learning_rate: 0.01 |
|
|
- loss: CosineSimilarityLoss |
|
|
- distance_metric: cosine_distance |
|
|
- margin: 0.25 |
|
|
- end_to_end: False |
|
|
- use_amp: False |
|
|
- warmup_proportion: 0.1 |
|
|
- l2_weight: 0.01 |
|
|
- seed: 42 |
|
|
- eval_max_steps: -1 |
|
|
- load_best_model_at_end: False |
|
|
|
|
|
### Training Results |
|
|
| Epoch | Step | Training Loss | Validation Loss | |
|
|
|:-------:|:----:|:-------------:|:---------------:| |
|
|
| 0.0066 | 1 | 0.4891 | - | |
|
|
| 0.3311 | 50 | 0.5008 | - | |
|
|
| 0.6623 | 100 | 0.4057 | - | |
|
|
| 0.9934 | 150 | 0.3132 | - | |
|
|
| 1.3245 | 200 | 0.176 | - | |
|
|
| 1.6556 | 250 | 0.0868 | - | |
|
|
| 1.9868 | 300 | 0.0349 | - | |
|
|
| 2.3179 | 350 | 0.0133 | - | |
|
|
| 2.6490 | 400 | 0.0018 | - | |
|
|
| 2.9801 | 450 | 0.0006 | - | |
|
|
| 3.3113 | 500 | 0.0004 | - | |
|
|
| 3.6424 | 550 | 0.0005 | - | |
|
|
| 3.9735 | 600 | 0.0003 | - | |
|
|
| 4.3046 | 650 | 0.0002 | - | |
|
|
| 4.6358 | 700 | 0.0002 | - | |
|
|
| 4.9669 | 750 | 0.0002 | - | |
|
|
| 5.2980 | 800 | 0.0001 | - | |
|
|
| 5.6291 | 850 | 0.0001 | - | |
|
|
| 5.9603 | 900 | 0.0001 | - | |
|
|
| 6.2914 | 950 | 0.0001 | - | |
|
|
| 6.6225 | 1000 | 0.0001 | - | |
|
|
| 6.9536 | 1050 | 0.0001 | - | |
|
|
| 7.2848 | 1100 | 0.0001 | - | |
|
|
| 7.6159 | 1150 | 0.0001 | - | |
|
|
| 7.9470 | 1200 | 0.0001 | - | |
|
|
| 8.2781 | 1250 | 0.0001 | - | |
|
|
| 8.6093 | 1300 | 0.0001 | - | |
|
|
| 8.9404 | 1350 | 0.0001 | - | |
|
|
| 9.2715 | 1400 | 0.0001 | - | |
|
|
| 9.6026 | 1450 | 0.0 | - | |
|
|
| 9.9338 | 1500 | 0.0001 | - | |
|
|
| 10.2649 | 1550 | 0.0 | - | |
|
|
| 10.5960 | 1600 | 0.0 | - | |
|
|
| 10.9272 | 1650 | 0.0 | - | |
|
|
| 11.2583 | 1700 | 0.0 | - | |
|
|
| 11.5894 | 1750 | 0.0 | - | |
|
|
| 11.9205 | 1800 | 0.0 | - | |
|
|
| 12.2517 | 1850 | 0.0 | - | |
|
|
| 12.5828 | 1900 | 0.0 | - | |
|
|
| 12.9139 | 1950 | 0.0 | - | |
|
|
| 13.2450 | 2000 | 0.0 | - | |
|
|
| 13.5762 | 2050 | 0.0 | - | |
|
|
| 13.9073 | 2100 | 0.0 | - | |
|
|
| 14.2384 | 2150 | 0.0 | - | |
|
|
| 14.5695 | 2200 | 0.0 | - | |
|
|
| 14.9007 | 2250 | 0.0 | - | |
|
|
| 15.2318 | 2300 | 0.0 | - | |
|
|
| 15.5629 | 2350 | 0.0 | - | |
|
|
| 15.8940 | 2400 | 0.0 | - | |
|
|
| 16.2252 | 2450 | 0.0 | - | |
|
|
| 16.5563 | 2500 | 0.0 | - | |
|
|
| 16.8874 | 2550 | 0.0 | - | |
|
|
| 17.2185 | 2600 | 0.0 | - | |
|
|
| 17.5497 | 2650 | 0.0 | - | |
|
|
| 17.8808 | 2700 | 0.0 | - | |
|
|
| 18.2119 | 2750 | 0.0 | - | |
|
|
| 18.5430 | 2800 | 0.0 | - | |
|
|
| 18.8742 | 2850 | 0.0 | - | |
|
|
| 19.2053 | 2900 | 0.0 | - | |
|
|
| 19.5364 | 2950 | 0.0 | - | |
|
|
| 19.8675 | 3000 | 0.0 | - | |
|
|
| 20.1987 | 3050 | 0.0 | - | |
|
|
| 20.5298 | 3100 | 0.0 | - | |
|
|
| 20.8609 | 3150 | 0.0 | - | |
|
|
| 21.1921 | 3200 | 0.0 | - | |
|
|
| 21.5232 | 3250 | 0.0 | - | |
|
|
| 21.8543 | 3300 | 0.0 | - | |
|
|
| 22.1854 | 3350 | 0.0 | - | |
|
|
| 22.5166 | 3400 | 0.0 | - | |
|
|
| 22.8477 | 3450 | 0.0 | - | |
|
|
| 23.1788 | 3500 | 0.0 | - | |
|
|
| 23.5099 | 3550 | 0.0 | - | |
|
|
| 23.8411 | 3600 | 0.0 | - | |
|
|
| 24.1722 | 3650 | 0.0 | - | |
|
|
| 24.5033 | 3700 | 0.0 | - | |
|
|
| 24.8344 | 3750 | 0.0 | - | |
|
|
| 25.1656 | 3800 | 0.0 | - | |
|
|
| 25.4967 | 3850 | 0.0 | - | |
|
|
| 25.8278 | 3900 | 0.0 | - | |
|
|
| 26.1589 | 3950 | 0.0 | - | |
|
|
| 26.4901 | 4000 | 0.0 | - | |
|
|
| 26.8212 | 4050 | 0.0 | - | |
|
|
| 27.1523 | 4100 | 0.0 | - | |
|
|
| 27.4834 | 4150 | 0.0 | - | |
|
|
| 27.8146 | 4200 | 0.0 | - | |
|
|
| 28.1457 | 4250 | 0.0 | - | |
|
|
| 28.4768 | 4300 | 0.0 | - | |
|
|
| 28.8079 | 4350 | 0.0 | - | |
|
|
| 29.1391 | 4400 | 0.0 | - | |
|
|
| 29.4702 | 4450 | 0.0 | - | |
|
|
| 29.8013 | 4500 | 0.0 | - | |
|
|
|
|
|
### Framework Versions |
|
|
- Python: 3.10.12 |
|
|
- SetFit: 1.1.0 |
|
|
- Sentence Transformers: 3.3.1 |
|
|
- Transformers: 4.44.2 |
|
|
- PyTorch: 2.2.0a0+81ea7a4 |
|
|
- Datasets: 3.2.0 |
|
|
- Tokenizers: 0.19.1 |
|
|
|
|
|
## Citation |
|
|
|
|
|
### BibTeX |
|
|
```bibtex |
|
|
@article{https://doi.org/10.48550/arxiv.2209.11055, |
|
|
doi = {10.48550/ARXIV.2209.11055}, |
|
|
url = {https://arxiv.org/abs/2209.11055}, |
|
|
author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren}, |
|
|
keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences}, |
|
|
title = {Efficient Few-Shot Learning Without Prompts}, |
|
|
publisher = {arXiv}, |
|
|
year = {2022}, |
|
|
copyright = {Creative Commons Attribution 4.0 International} |
|
|
} |
|
|
``` |
|
|
|
|
|
<!-- |
|
|
## Glossary |
|
|
|
|
|
*Clearly define terms in order to be accessible across audiences.* |
|
|
--> |
|
|
|
|
|
<!-- |
|
|
## Model Card Authors |
|
|
|
|
|
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.* |
|
|
--> |
|
|
|
|
|
<!-- |
|
|
## Model Card Contact |
|
|
|
|
|
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.* |
|
|
--> |