setfit safetensors roberta sentence-transformers text-classification generated_from_setfit_trainer arxiv:2209.11055 base_model:mini1013/master_domain base_model:finetune:mini1013/master_domain model-index region:us
---
base_model: mini1013/master_domain
library_name: setfit
metrics:
- accuracy
pipeline_tag: text-classification
tags:
- setfit
- sentence-transformers
- text-classification
- generated_from_setfit_trainer
widget:
- text: 룸앤홈 쁘띠 유아 책상 높이조절 어린이책상 쁘띠 키즈테이블_타이거 테이블 출산/육아 > 유아가구 > 유아책상
- text: 리드오프 접이식 유아 어린이 공부상 좌식 아기 밥상 책상 놀이상 테이블 높이조절 (28)LOVE_중_화이트 굵은다리(30Cm) 출산/육아
    > 유아가구 > 유아공부상
- text: 침대 오크 아이 접이식 유아용 바퀴 이동식 3번 출산/육아 > 유아가구 > 유아침대
- text: 발받침대 일본 SANWA 사무실 발판 스텝 스툴 임산부 책상 서재 학생 다리받침 각도조절형 출산/육아 > 유아가구 > 유아의자
- text: 자석칠판 화이트보드 유아 공부상 유아동 아기책상  출산/육아 > 유아가구 > 유아책상
inference: true
model-index:
- name: SetFit with mini1013/master_domain
  results:
  - task:
      type: text-classification
      name: Text Classification
    dataset:
      name: Unknown
      type: unknown
      split: test
    metrics:
    - type: accuracy
      value: 1.0
      name: Accuracy
---

# SetFit with mini1013/master_domain

This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [mini1013/master_domain](https://huggingface.co/mini1013/master_domain) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.

## Model Details

### Model Description
- **Model Type:** SetFit
- **Sentence Transformer body:** [mini1013/master_domain](https://huggingface.co/mini1013/master_domain)
- **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
- **Maximum Sequence Length:** 512 tokens
- **Number of Classes:** 10 classes
<!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->

### Model Sources

- **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit)
- **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055)
- **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)

### Model Labels
| Label | Examples                                                                                                                                                                                                                                                                                           |
|:------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 9.0   | <ul><li>'투명 장난감 정리함 블럭 보관함 레고 듀플로 정리박스 토이박스 오픈형_그린 출산/육아 > 유아가구 > 장난감정리함'</li><li>'아기 장난감 정리함 곰 누빔 베이지 XL 출산/육아 > 유아가구 > 장난감정리함'</li><li>'이동식 장난감 정리함 수납함 바퀴 보관함 정리박스 상자 화이트 L 출산/육아 > 유아가구 > 장난감정리함'</li></ul>                                                                                    |
| 6.0   | <ul><li>'릿첼 베이비 소프트 의자 그레이 출산/육아 > 유아가구 > 유아이유식의자'</li><li>'[엔픽스] 비바체 하이체어_색상택1 화이트_화이트_베이지 출산/육아 > 유아가구 > 유아이유식의자'</li><li>'아기의자 하이체어 본베베 범보의자 트립트랩 이케아 S 출산/육아 > 유아가구 > 유아이유식의자'</li></ul>                                                                                                       |
| 5.0   | <ul><li>'미용실 유아 의자 자동차 모양 어린이 좌석 인테리어 K_직경58cm 출산/육아 > 유아가구 > 유아의자'</li><li>'유아용 의자 어린이집 유치원 쿠션 쇼파 어린이소파 키즈카페 인테리어의자 골드와인레드_150x30x35cm 출산/육아 > 유아가구 > 유아의자'</li><li>'아동 어린이 유아 의자 등받이 간이 체어 유치원 어린이집 귀여운 플라스틱 경량 가벼운 대 그린 출산/육아 > 유아가구 > 유아의자'</li></ul>                                          |
| 2.0   | <ul><li>'땅콩책상 유치원 학습용 도색 책상 및 의자 세트 아기 어린이 땅콩 테이블 04 83x50x60cm  4 출산/육아 > 유아가구 > 유아공부상'</li><li>'칼라 사각 1조각 좌식책상 어린이집 유치원 학원 유아 공부상 좌식테이블 대형 칼라(1200X600)_분홍_H350(중고성인)플라스틱다리 출산/육아 > 유아가구 > 유아공부상'</li><li>'gvp 체스  출산/육아 > 유아가구 > 유아공부상'</li></ul>                                               |
| 8.0   | <ul><li>'도노도노 튼튼 하이 라이트 멀티 범퍼침대 + 모달 토퍼세트 시어그레이_아이보리 출산/육아 > 유아가구 > 유아침대'</li><li>'꿈비 클린 변신 범퍼침대 유아 가드 아기 침대 트윈스타PLUS (매트+가드)_슈퍼특대형 하이가드 베이비룸 출산/육아 > 유아가구 > 유아침대'</li><li>'(개인맞춤) 파스텔 무지 100수 순면 누빔 싱글,슈퍼싱글 범퍼가드 (사이즈맞춤가능) 118x46 출산/육아 > 유아가구 > 유아침대'</li></ul>                                  |
| 3.0   | <ul><li>'코아코아 뒹굴러 소파 래빗 출산/육아 > 유아가구 > 유아소파'</li><li>'코끼리 어린이 키즈 유아 용 어린이집 유치원 다용도 컬러 블럭 가구 양면 의자 소파 쇼파 블랙 출산/육아 > 유아가구 > 유아소파'</li><li>'디자인스킨 케이크 유아 소파 라이트 블루 출산/육아 > 유아가구 > 유아소파'</li></ul>                                                                                                     |
| 1.0   | <ul><li>'3P 미끄럼방지 테이프  출산/육아 > 유아가구 > 기타유아가구'</li><li>'1+1 무지 베이지 우리 가족 놀이방 매트 200x 140x1.0cm 무지베이지 15T(2장) 출산/육아 > 유아가구 > 기타유아가구'</li><li>'어린이집 유치원 학원 투명 3단 약통 응급상자 구급약함 상비약보관함 약분류함 색상_투명3단구급함 핑크 출산/육아 > 유아가구 > 기타유아가구'</li></ul>                                                              |
| 4.0   | <ul><li>'프로그 아기 신생아 옷걸이 세트 (7+1) 미니 화이트 1set 출산/육아 > 유아가구 > 유아옷걸이'</li><li>'원목 햇님 2단 아기방 옷걸이 성탄절 아기방꾸미기 유아가구 키즈옷걸이 아기방가구  출산/육아 > 유아가구 > 유아옷걸이'</li><li>'재니홈 유아용 길이조절 옷걸이 핑크 x 10개 출산/육아 > 유아가구 > 유아옷걸이'</li></ul>                                                                                 |
| 0.0   | <ul><li>'[베이비앙] 출산축하선물세트 배냇저고리 손/발싸개 01.3종출산선물세트(구름이) 01.3종출산선물세트(구름이)_선물패키지(개별포장) 출산/육아 > 유아가구 > 기저귀정리함'</li><li>'생일답례품포장 선물포장용품 네임스티커 리본 등 A선택 B선택_B3-생일레인보우 컵6P 출산/육아 > 유아가구 > 기저귀정리함'</li><li>'보관함 접이식 유모차 뚜껑이 있는 PP 보드 냄새 없음 방 장난감 상자 옷 장, 대용량 01 yellow33cm 출산/육아 > 유아가구 > 기저귀정리함'</li></ul> |
| 7.0   | <ul><li>'토토 E0 등급 가로 600 세로 400 좌식테이블 티테이블 밥상 라운드형 출산/육아 > 유아가구 > 유아책상'</li><li>'학원 책상 의자 세트 공부용책상 용품 교육 의자-좌판색상_(YWBHS)카키 출산/육아 > 유아가구 > 유아책상'</li><li>'헬로 디노 테디 아기 유아 책상 의자 세트 테이블 공부상 헬로디노_1인용_레드 출산/육아 > 유아가구 > 유아책상'</li></ul>                                                                |

## Evaluation

### Metrics
| Label   | Accuracy |
|:--------|:---------|
| **all** | 1.0      |

## Uses

### Direct Use for Inference

First install the SetFit library:

```bash
pip install setfit
```

Then you can load this model and run inference.

```python
from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_bc17")
# Run inference
preds = model("침대 오크 아이 접이식 유아용 바퀴 이동식 3번 출산/육아 > 유아가구 > 유아침대")
```

<!--
### Downstream Use

*List how someone could finetune this model on their own dataset.*
-->

<!--
### Out-of-Scope Use

*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->

<!--
## Bias, Risks and Limitations

*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->

<!--
### Recommendations

*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->

## Training Details

### Training Set Metrics
| Training set | Min | Median | Max |
|:-------------|:----|:-------|:----|
| Word count   | 7   | 14.68  | 26  |

| Label | Training Sample Count |
|:------|:----------------------|
| 0.0   | 70                    |
| 1.0   | 70                    |
| 2.0   | 70                    |
| 3.0   | 70                    |
| 4.0   | 70                    |
| 5.0   | 70                    |
| 6.0   | 70                    |
| 7.0   | 70                    |
| 8.0   | 70                    |
| 9.0   | 70                    |

### Training Hyperparameters
- batch_size: (256, 256)
- num_epochs: (30, 30)
- max_steps: -1
- sampling_strategy: oversampling
- num_iterations: 50
- body_learning_rate: (2e-05, 1e-05)
- head_learning_rate: 0.01
- loss: CosineSimilarityLoss
- distance_metric: cosine_distance
- margin: 0.25
- end_to_end: False
- use_amp: False
- warmup_proportion: 0.1
- l2_weight: 0.01
- seed: 42
- eval_max_steps: -1
- load_best_model_at_end: False

### Training Results
| Epoch   | Step | Training Loss | Validation Loss |
|:-------:|:----:|:-------------:|:---------------:|
| 0.0073  | 1    | 0.483         | -               |
| 0.3650  | 50   | 0.4992        | -               |
| 0.7299  | 100  | 0.378         | -               |
| 1.0949  | 150  | 0.1514        | -               |
| 1.4599  | 200  | 0.0531        | -               |
| 1.8248  | 250  | 0.0383        | -               |
| 2.1898  | 300  | 0.0279        | -               |
| 2.5547  | 350  | 0.0177        | -               |
| 2.9197  | 400  | 0.0109        | -               |
| 3.2847  | 450  | 0.0113        | -               |
| 3.6496  | 500  | 0.0056        | -               |
| 4.0146  | 550  | 0.0001        | -               |
| 4.3796  | 600  | 0.0001        | -               |
| 4.7445  | 650  | 0.0           | -               |
| 5.1095  | 700  | 0.0001        | -               |
| 5.4745  | 750  | 0.0           | -               |
| 5.8394  | 800  | 0.0           | -               |
| 6.2044  | 850  | 0.0           | -               |
| 6.5693  | 900  | 0.0           | -               |
| 6.9343  | 950  | 0.0           | -               |
| 7.2993  | 1000 | 0.0           | -               |
| 7.6642  | 1050 | 0.0001        | -               |
| 8.0292  | 1100 | 0.0           | -               |
| 8.3942  | 1150 | 0.0           | -               |
| 8.7591  | 1200 | 0.0           | -               |
| 9.1241  | 1250 | 0.0           | -               |
| 9.4891  | 1300 | 0.0           | -               |
| 9.8540  | 1350 | 0.0           | -               |
| 10.2190 | 1400 | 0.0           | -               |
| 10.5839 | 1450 | 0.0           | -               |
| 10.9489 | 1500 | 0.0           | -               |
| 11.3139 | 1550 | 0.0           | -               |
| 11.6788 | 1600 | 0.0           | -               |
| 12.0438 | 1650 | 0.0           | -               |
| 12.4088 | 1700 | 0.0           | -               |
| 12.7737 | 1750 | 0.0           | -               |
| 13.1387 | 1800 | 0.0           | -               |
| 13.5036 | 1850 | 0.0           | -               |
| 13.8686 | 1900 | 0.0           | -               |
| 14.2336 | 1950 | 0.0           | -               |
| 14.5985 | 2000 | 0.0           | -               |
| 14.9635 | 2050 | 0.0           | -               |
| 15.3285 | 2100 | 0.0           | -               |
| 15.6934 | 2150 | 0.0           | -               |
| 16.0584 | 2200 | 0.0           | -               |
| 16.4234 | 2250 | 0.0           | -               |
| 16.7883 | 2300 | 0.0           | -               |
| 17.1533 | 2350 | 0.0           | -               |
| 17.5182 | 2400 | 0.0           | -               |
| 17.8832 | 2450 | 0.0           | -               |
| 18.2482 | 2500 | 0.0           | -               |
| 18.6131 | 2550 | 0.0           | -               |
| 18.9781 | 2600 | 0.0           | -               |
| 19.3431 | 2650 | 0.0           | -               |
| 19.7080 | 2700 | 0.0           | -               |
| 20.0730 | 2750 | 0.0           | -               |
| 20.4380 | 2800 | 0.0           | -               |
| 20.8029 | 2850 | 0.0           | -               |
| 21.1679 | 2900 | 0.0           | -               |
| 21.5328 | 2950 | 0.0           | -               |
| 21.8978 | 3000 | 0.0           | -               |
| 22.2628 | 3050 | 0.0           | -               |
| 22.6277 | 3100 | 0.0           | -               |
| 22.9927 | 3150 | 0.0           | -               |
| 23.3577 | 3200 | 0.0           | -               |
| 23.7226 | 3250 | 0.0           | -               |
| 24.0876 | 3300 | 0.0           | -               |
| 24.4526 | 3350 | 0.0           | -               |
| 24.8175 | 3400 | 0.0           | -               |
| 25.1825 | 3450 | 0.0           | -               |
| 25.5474 | 3500 | 0.0           | -               |
| 25.9124 | 3550 | 0.0           | -               |
| 26.2774 | 3600 | 0.0           | -               |
| 26.6423 | 3650 | 0.0           | -               |
| 27.0073 | 3700 | 0.0           | -               |
| 27.3723 | 3750 | 0.0           | -               |
| 27.7372 | 3800 | 0.0           | -               |
| 28.1022 | 3850 | 0.0           | -               |
| 28.4672 | 3900 | 0.0           | -               |
| 28.8321 | 3950 | 0.0           | -               |
| 29.1971 | 4000 | 0.0           | -               |
| 29.5620 | 4050 | 0.0           | -               |
| 29.9270 | 4100 | 0.0           | -               |

### Framework Versions
- Python: 3.10.12
- SetFit: 1.1.0
- Sentence Transformers: 3.3.1
- Transformers: 4.44.2
- PyTorch: 2.2.0a0+81ea7a4
- Datasets: 3.2.0
- Tokenizers: 0.19.1

## Citation

### BibTeX
```bibtex
@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
```

<!--
## Glossary

*Clearly define terms in order to be accessible across audiences.*
-->

<!--
## Model Card Authors

*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->

<!--
## Model Card Contact

*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->