mini1013/master_cate_sl31

SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

1. Fine-tuning a Sentence Transformer with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

• Model Type: SetFit
• Sentence Transformer body: mini1013/master_domain
• Classification head: a LogisticRegression instance
• Maximum Sequence Length: 512 tokens
• Number of Classes: 18 classes

Model Sources

• Repository: SetFit on GitHub
• Paper: Efficient Few-Shot Learning Without Prompts
• Blogpost: SetFit: Efficient Few-Shot Learning Without Prompts

Model Labels

Label	Examples
11.0	'음파 진동기 덜덜이 쉐이크보드 운동기구 뱃살 지방 코어 태우기 다이어트 스포츠/레저>헬스>진동운동기' '덜덜이 전신 진동 진동기 쉐이크 음파 운동기구 스포츠/레저>헬스>진동운동기' '쉐이킹보드 진동 다이어트 실내 피트니스 머신 체형관리 운동기 가정용 전신 플레이트 덜덜이 스포츠/레저>헬스>진동운동기'
13.0	'아이워너 접이식 타원형 손잡이 트램폴린 2인용 스포츠/레저>헬스>트램펄린' '멜킨스포츠 스포츠 트램폴린 55인치 스포츠/레저>헬스>트램펄린' '반석스포츠 맥스클럽 트램폴린 스포츠/레저>헬스>트램펄린'
10.0	'JJR 3 1m 단체 구슬줄넘기 슬림구슬 DYG103150 스포츠/레저>헬스>줄넘기' 'R-WAVE 1635 줄넘기 우드 줄넘기 나무 스포츠/레저>헬스>줄넘기' '아이워너 선수용 줄넘기 다이어트 헬스 유산소운동 꼬임방지베어링 줄길이조절가능 스포츠/레저>헬스>줄넘기'
1.0	'엑사이더 슬림한 워킹패드 런닝머신 EW771R 스포츠/레저>헬스>러닝머신>접이식' '바디엑스 X7 가정용 러닝머신 스포츠/레저>헬스>러닝머신>접이식' '이고진 런닝머신 LT01 가정용 유산소 운동 기구 홈트 저소음 실내 워킹 패드 접이식 스포츠/레저>헬스>러닝머신>접이식'
15.0	'좌식 실내 자전거 운동기구 스피닝 가정용 바이크 헬스싸이클 스포츠/레저>헬스>헬스사이클' '실내자전거 운동 스피닝 바이크 가정용 좌식 접이식 스포츠/레저>헬스>헬스사이클' '좌식자전거 유산소 실내자전거 무소음 운동기구 홈트 사이클 릴렉스 헬스 바이크 다이어트 스포츠/레저>헬스>헬스사이클'
17.0	'신신상사 스타스포츠 S로즈 3.1 EA3001 훌라후프 스포츠/레저>헬스>훌라후프' '닥터웰 웰서클 훌라후프 DR-54 스포츠/레저>헬스>훌라후프' '나노소프트 BFIT 앱 폼 훌라후프 상급용 1.8KG 스포츠/레저>헬스>훌라후프'
3.0	'월드 클럽용 벨트 마사지기 - 논슬립 강철발판 덜덜이 BODY-0516 스포츠/레저>헬스>벨트마사지' '골드스톤 벨트마사지기 덜덜이 속도조절 클럽용 실내운동기구 진동운동기구 GS10000 스포츠/레저>헬스>벨트마사지' '아이워너 PVC 삼각 아령 3kg 스모키라벤더 스포츠/레저>헬스>벨트마사지'
14.0	'허리 트레이닝 스트레칭 발판 원판 지압 회전 WW710C12 스포츠/레저>헬스>트위스트' '슈어밸류A 홈짐 허리운동 허리회전 등허리 트위스트 기구 CH-A103714 스포츠/레저>헬스>트위스트' '트위스트 전신 운동 기구 홈트 실내 허리 스포츠/레저>헬스>트위스트'
4.0	'로만체어 척추 기립근 복부 허리 운동기구 로망체어 스포츠/레저>헬스>복근운동기구' '복근 진동 EMS 벨트 허리 피트니스 패드 저주파 자극 스포츠/레저>헬스>복근운동기구' '로만 체어 백익스텐션 운동기구 코어 기립근 옆구리 스포츠/레저>헬스>복근운동기구'
6.0	'승마 미끄럼 방지 장비 말-B 스포츠/레저>헬스>승마운동기' '승마용 퀄팅 부츠 가방 수납 승마용품 보관 장비 스포츠/레저>헬스>승마운동기' '승마 가죽 채찍 말 훈련 도구 라이딩 전문가용 스포츠/레저>헬스>승마운동기'
8.0	'홈트레이닝 최신 4줄 전신튜빙밴드 바디쉐이퍼 튜빙밴드 복근운동 헬스 스포츠/레저>헬스>웨이트기구>웨이트용품' '스미스 머신 가정용 파워랙 멀티랙 로잉 운동기구 홈트 세트 홈짐 스미스 용문대 누적기 130kg 솔리드 스포츠/레저>헬스>웨이트기구>복합헬스머신' 'modoo 스트레칭 요가 밴드 스포츠/레저>헬스>웨이트기구>웨이트용품'
9.0	'일립티컬 유산소 스카이워커 홈트 실내 입식 바이크 스포츠/레저>헬스>일립티컬' '워커 접이식 기구 머신 운동 일립티컬 가정용 유산소 실내 홈트 헬스 운동기구 스포츠/레저>헬스>일립티컬' '일립티컬머신 걷기운동 스카이 스텝밀 무소음 계단 스포츠/레저>헬스>일립티컬'
2.0	'실내자전거 매트 로잉머신 충격흡수 발판 방음 소음방지 12 L 스포츠/레저>헬스>로잉머신' '가정용 로잉머신 접이식 조정 전신 운동 홈트 노젓기 스포츠/레저>헬스>로잉머신' '가정용 로잉머신 노젓기 워터 운동 조정 스포츠/레저>헬스>로잉머신'
7.0	'CNK 육각 아령 스포츠/레저>헬스>아령/덤벨' '모아그룹 모아클래스 논슬립 덤벨 스포츠/레저>헬스>아령/덤벨' '우성레포츠 아리프 냄새없는 PEV 육각 덤벨 스포츠/레저>헬스>아령/덤벨'
12.0	'멜킨스포츠 케틀벨 스포츠/레저>헬스>케틀벨' '바디엑스 소프트 케틀벨 스포츠/레저>헬스>케틀벨' '대연 스포빅스 PVC 스타일 케틀벨 스포츠/레저>헬스>케틀벨'
5.0	'클라이머 스탭퍼 가정용 암벽등반 등산 천국의 계단 스포츠/레저>헬스>스텝퍼' '마운틴 클라이머 스텝퍼 사다리 걷기 천국의계단 홈트 클라이머운동기구 스포츠/레저>헬스>스텝퍼' '스텝퍼 계단오르기기구 클라이머 클라임밀 스텝머신 스포츠/레저>헬스>스텝퍼'
16.0	'균형잡기 발란스 보드 밸런스 패드 허벅지 근육 운동 스포츠/레저>헬스>헬스소품>기타헬스소품' '파워풀 강도조절 카운트 악력기 그린 스포츠/레저>헬스>헬스소품>악력기' '오너클랜 관절 손상 최소화 스트레칭 운동 밸런스 패드 W3BB69C 스포츠/레저>헬스>헬스소품>기타헬스소품'
0.0	'와이앤에이치 렉스파 전동 거꾸리 YA-810 스포츠/레저>헬스>거꾸리' '멜킨스포츠 세이프존 가정용 프리미엄 거꾸리 운동 기구 허리운동 스포츠/레저>헬스>거꾸리' '와이앤에이치 렉스파 가정용 거꾸리 YA-740 스포츠/레저>헬스>거꾸리'

Evaluation

Metrics

Label	Accuracy
all	1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_sl31")
# Run inference
preds = model("허리 단련 운동 허리강화 로마의자 로만체어 옆구리 스포츠/레저>헬스>복근운동기구")

Training Details

Training Set Metrics

Training set	Min	Median	Max
Word count	2	8.0378	18

Label	Training Sample Count
0.0	3
1.0	70
2.0	70
3.0	70
4.0	70
5.0	70
6.0	70
7.0	70
8.0	70
9.0	70
10.0	70
11.0	70
12.0	69
13.0	70
14.0	68
15.0	70
16.0	70
17.0	70

Training Hyperparameters

• batch_size: (256, 256)
• num_epochs: (30, 30)
• max_steps: -1
• sampling_strategy: oversampling
• num_iterations: 50
• body_learning_rate: (2e-05, 1e-05)
• head_learning_rate: 0.01
• loss: CosineSimilarityLoss
• distance_metric: cosine_distance
• margin: 0.25
• end_to_end: False
• use_amp: False
• warmup_proportion: 0.1
• l2_weight: 0.01
• seed: 42
• eval_max_steps: -1
• load_best_model_at_end: False

Training Results

Epoch	Step	Training Loss	Validation Loss
0.0043	1	0.499	-
0.2146	50	0.4998	-
0.4292	100	0.4521	-
0.6438	150	0.2435	-
0.8584	200	0.093	-
1.0730	250	0.0291	-
1.2876	300	0.012	-
1.5021	350	0.0065	-
1.7167	400	0.0045	-
1.9313	450	0.0039	-
2.1459	500	0.0041	-
2.3605	550	0.0021	-
2.5751	600	0.0002	-
2.7897	650	0.0001	-
3.0043	700	0.0001	-
3.2189	750	0.0001	-
3.4335	800	0.0001	-
3.6481	850	0.0001	-
3.8627	900	0.0001	-
4.0773	950	0.0001	-
4.2918	1000	0.0001	-
4.5064	1050	0.0001	-
4.7210	1100	0.0001	-
4.9356	1150	0.0	-
5.1502	1200	0.0	-
5.3648	1250	0.0	-
5.5794	1300	0.0	-
5.7940	1350	0.0	-
6.0086	1400	0.0	-
6.2232	1450	0.0	-
6.4378	1500	0.0	-
6.6524	1550	0.0	-
6.8670	1600	0.0	-
7.0815	1650	0.0	-
7.2961	1700	0.0	-
7.5107	1750	0.0	-
7.7253	1800	0.0	-
7.9399	1850	0.0	-
8.1545	1900	0.0	-
8.3691	1950	0.0	-
8.5837	2000	0.0	-
8.7983	2050	0.0	-
9.0129	2100	0.0	-
9.2275	2150	0.0	-
9.4421	2200	0.0	-
9.6567	2250	0.0	-
9.8712	2300	0.0	-
10.0858	2350	0.0	-
10.3004	2400	0.0	-
10.5150	2450	0.0	-
10.7296	2500	0.0	-
10.9442	2550	0.0	-
11.1588	2600	0.0	-
11.3734	2650	0.0	-
11.5880	2700	0.0	-
11.8026	2750	0.0	-
12.0172	2800	0.0	-
12.2318	2850	0.0	-
12.4464	2900	0.0	-
12.6609	2950	0.0	-
12.8755	3000	0.0	-
13.0901	3050	0.0	-
13.3047	3100	0.0	-
13.5193	3150	0.0	-
13.7339	3200	0.0	-
13.9485	3250	0.0	-
14.1631	3300	0.0	-
14.3777	3350	0.0	-
14.5923	3400	0.0	-
14.8069	3450	0.0	-
15.0215	3500	0.0	-
15.2361	3550	0.0	-
15.4506	3600	0.0	-
15.6652	3650	0.0	-
15.8798	3700	0.0	-
16.0944	3750	0.0	-
16.3090	3800	0.0	-
16.5236	3850	0.0	-
16.7382	3900	0.0	-
16.9528	3950	0.0	-
17.1674	4000	0.0	-
17.3820	4050	0.0	-
17.5966	4100	0.0	-
17.8112	4150	0.0	-
18.0258	4200	0.0	-
18.2403	4250	0.0	-
18.4549	4300	0.0	-
18.6695	4350	0.0	-
18.8841	4400	0.0	-
19.0987	4450	0.0	-
19.3133	4500	0.0	-
19.5279	4550	0.0	-
19.7425	4600	0.0	-
19.9571	4650	0.0	-
20.1717	4700	0.0	-
20.3863	4750	0.0	-
20.6009	4800	0.0	-
20.8155	4850	0.0	-
21.0300	4900	0.0	-
21.2446	4950	0.0	-
21.4592	5000	0.0	-
21.6738	5050	0.0	-
21.8884	5100	0.0	-
22.1030	5150	0.0	-
22.3176	5200	0.0	-
22.5322	5250	0.0	-
22.7468	5300	0.0	-
22.9614	5350	0.0	-
23.1760	5400	0.0	-
23.3906	5450	0.0	-
23.6052	5500	0.0	-
23.8197	5550	0.0	-
24.0343	5600	0.0	-
24.2489	5650	0.0	-
24.4635	5700	0.0	-
24.6781	5750	0.0	-
24.8927	5800	0.0	-
25.1073	5850	0.0	-
25.3219	5900	0.0	-
25.5365	5950	0.0	-
25.7511	6000	0.0	-
25.9657	6050	0.0	-
26.1803	6100	0.0	-
26.3948	6150	0.0	-
26.6094	6200	0.0	-
26.8240	6250	0.0	-
27.0386	6300	0.0	-
27.2532	6350	0.0	-
27.4678	6400	0.0	-
27.6824	6450	0.0	-
27.8970	6500	0.0	-
28.1116	6550	0.0	-
28.3262	6600	0.0	-
28.5408	6650	0.0	-
28.7554	6700	0.0	-
28.9700	6750	0.0	-
29.1845	6800	0.0	-
29.3991	6850	0.0	-
29.6137	6900	0.0	-
29.8283	6950	0.0	-

Framework Versions

• Python: 3.10.12
• SetFit: 1.1.0
• Sentence Transformers: 3.3.1
• Transformers: 4.44.2
• PyTorch: 2.2.0a0+81ea7a4
• Datasets: 3.2.0
• Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}