setfit safetensors roberta sentence-transformers text-classification generated_from_setfit_trainer arxiv:2209.11055 base_model:adriansanz/070524_epoch_2 base_model:finetune:adriansanz/070524_epoch_2 region:us
---
base_model: adriansanz/halfine
library_name: setfit
metrics:
- accuracy
pipeline_tag: text-classification
tags:
- setfit
- sentence-transformers
- text-classification
- generated_from_setfit_trainer
widget:
- text: 'partits de futbol en vía pública que generen sorrolls i desperfectes : soc
    una veina de la plaça victor mateu i moles. durant tot l’any el jovent juguen
    a fútbol en la part asfaltada de la plaça i disparen les pilotes contra la tanca
    del recinte que correspon als portals 1, 2 i 3 de dita plaça. aquests partits
    s’allarguen fins passades les 12 de la nit i a més provoquen l’enfonsament de
    la tanca metàl•lica. avisada la guàrdia urbana en diverses ocasions en les que
    han fet cas omís. aquests fets pertorben el descans dels veïns a més dels desperfectes
    que ocasionen i que haurem de pagar entre els veïns de la comunitat. aquests fets
    s’estan produint des de la remodelació de la plaça. gràcies per la vostra atenció.'
- text: 'una bombeta fosa en una farola : al carrer antoni agusti al nº 9 hi ha una
    farola amb una bombeta fosa fa dies que i está'
- text: 'vehicle circulant amb itv caducada : el vehicle marca hundai civic de color
    verd provist de plaques de matricula 2449 cyj circula pels carrers dels voltants
    del arnau de vilanova amb la itv caducada del març del 23 per tant aquest vehicle
    cal que passi la inspeccio tecnica corresponent per a garantir la seguretat de
    la resta d''usuaris de la zona....gracies.....apercebin al conductor o propietari
    al mes aviat possible.....'
- text: 'devolució fiances : bona tarda, voldria saber el procediment a seguir per
    sol•licitar la devolució d’unes fiances que es varen constituir per realitzar
    unes obres, les quals ja han acabat. no sé si depèn d''urbanisme, via pública,
    tramitacions... disculpeu. atentament marc castelló'
- text: 'senyal vertical d,obligacio de circulacion giratoria despenjada : la senyal
    vertical circular de obligacio de circulacio giratoria situada a la glorieta de
    dr.fleming amb avinguda 11 de setembre,,,,,davant centre penitenciari ,,,roman
    despenjada al terra,,,,caldria tornar la a penjar en el seu lloc......gracies....revisin
    la zona.....'
inference: true
---

# SetFit with adriansanz/halfine

This is a [SetFit](https://github.com/huggingface/setfit) model that can be used for Text Classification. This SetFit model uses [adriansanz/halfine](https://huggingface.co/adriansanz/halfine) as the Sentence Transformer embedding model. A [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

1. Fine-tuning a [Sentence Transformer](https://www.sbert.net) with contrastive learning.
2. Training a classification head with features from the fine-tuned Sentence Transformer.

## Model Details

### Model Description
- **Model Type:** SetFit
- **Sentence Transformer body:** [adriansanz/halfine](https://huggingface.co/adriansanz/halfine)
- **Classification head:** a [LogisticRegression](https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html) instance
- **Maximum Sequence Length:** 512 tokens
- **Number of Classes:** 17 classes
<!-- - **Training Dataset:** [Unknown](https://huggingface.co/datasets/unknown) -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->

### Model Sources

- **Repository:** [SetFit on GitHub](https://github.com/huggingface/setfit)
- **Paper:** [Efficient Few-Shot Learning Without Prompts](https://arxiv.org/abs/2209.11055)
- **Blogpost:** [SetFit: Efficient Few-Shot Learning Without Prompts](https://huggingface.co/blog/setfit)

### Model Labels
| Label | Examples                                                                                                                                                                                                  |
|:------|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 0     | <ul><li>'Aquest article tracta sobre Aigües'</li><li>'Aquest article tracta sobre Aigües'</li><li>'Aquest article tracta sobre Aigües'</li></ul>                                                          |
| 1     | <ul><li>'Aquest article tracta sobre Consum, comerç i mercats'</li><li>'Aquest article tracta sobre Consum, comerç i mercats'</li><li>'Aquest article tracta sobre Consum, comerç i mercats'</li></ul>    |
| 2     | <ul><li>'Aquest article tracta sobre Cultura'</li><li>'Aquest article tracta sobre Cultura'</li><li>'Aquest article tracta sobre Cultura'</li></ul>                                                       |
| 3     | <ul><li>'Aquest article tracta sobre Economia'</li><li>'Aquest article tracta sobre Economia'</li><li>'Aquest article tracta sobre Economia'</li></ul>                                                    |
| 4     | <ul><li>'Aquest article tracta sobre Educació'</li><li>'Aquest article tracta sobre Educació'</li><li>'Aquest article tracta sobre Educació'</li></ul>                                                    |
| 5     | <ul><li>'Aquest article tracta sobre Enllumenat públic'</li><li>'Aquest article tracta sobre Enllumenat públic'</li><li>'Aquest article tracta sobre Enllumenat públic'</li></ul>                         |
| 6     | <ul><li>'Aquest article tracta sobre Esports'</li><li>'Aquest article tracta sobre Esports'</li><li>'Aquest article tracta sobre Esports'</li></ul>                                                       |
| 7     | <ul><li>'Aquest article tracta sobre Habitatge'</li><li>'Aquest article tracta sobre Habitatge'</li><li>'Aquest article tracta sobre Habitatge'</li></ul>                                                 |
| 8     | <ul><li>'Aquest article tracta sobre Horta'</li><li>'Aquest article tracta sobre Horta'</li><li>'Aquest article tracta sobre Horta'</li></ul>                                                             |
| 9     | <ul><li>'Aquest article tracta sobre Medi ambient'</li><li>'Aquest article tracta sobre Medi ambient'</li><li>'Aquest article tracta sobre Medi ambient'</li></ul>                                        |
| 10    | <ul><li>'Aquest article tracta sobre Neteja de la via pública'</li><li>'Aquest article tracta sobre Neteja de la via pública'</li><li>'Aquest article tracta sobre Neteja de la via pública'</li></ul>    |
| 11    | <ul><li>'Aquest article tracta sobre Salut pública i Cementiri'</li><li>'Aquest article tracta sobre Salut pública i Cementiri'</li><li>'Aquest article tracta sobre Salut pública i Cementiri'</li></ul> |
| 12    | <ul><li>'Aquest article tracta sobre Seguretat'</li><li>'Aquest article tracta sobre Seguretat'</li><li>'Aquest article tracta sobre Seguretat'</li></ul>                                                 |
| 13    | <ul><li>'Aquest article tracta sobre Serveis socials'</li><li>'Aquest article tracta sobre Serveis socials'</li><li>'Aquest article tracta sobre Serveis socials'</li></ul>                               |
| 14    | <ul><li>'Aquest article tracta sobre Tramitacions'</li><li>'Aquest article tracta sobre Tramitacions'</li><li>'Aquest article tracta sobre Tramitacions'</li></ul>                                        |
| 15    | <ul><li>'Aquest article tracta sobre Urbanisme'</li><li>'Aquest article tracta sobre Urbanisme'</li><li>'Aquest article tracta sobre Urbanisme'</li></ul>                                                 |
| 16    | <ul><li>'Aquest article tracta sobre Via pública i mobilitat'</li><li>'Aquest article tracta sobre Via pública i mobilitat'</li><li>'Aquest article tracta sobre Via pública i mobilitat'</li></ul>       |

## Uses

### Direct Use for Inference

First install the SetFit library:

```bash
pip install setfit
```

Then you can load this model and run inference.

```python
from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("adriansanz/test8")
# Run inference
preds = model("una bombeta fosa en una farola : al carrer antoni agusti al nº 9 hi ha una farola amb una bombeta fosa fa dies que i está")
```

<!--
### Downstream Use

*List how someone could finetune this model on their own dataset.*
-->

<!--
### Out-of-Scope Use

*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->

<!--
## Bias, Risks and Limitations

*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->

<!--
### Recommendations

*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->

## Training Details

### Training Set Metrics
| Training set | Min | Median | Max |
|:-------------|:----|:-------|:----|
| Word count   | 5   | 5.9412 | 9   |

| Label | Training Sample Count |
|:------|:----------------------|
| 0     | 8                     |
| 1     | 8                     |
| 2     | 8                     |
| 3     | 8                     |
| 4     | 8                     |
| 5     | 8                     |
| 6     | 8                     |
| 7     | 8                     |
| 8     | 8                     |
| 9     | 8                     |
| 10    | 8                     |
| 11    | 8                     |
| 12    | 8                     |
| 13    | 8                     |
| 14    | 8                     |
| 15    | 8                     |
| 16    | 8                     |

### Training Hyperparameters
- batch_size: (16, 2)
- num_epochs: (1, 16)
- max_steps: -1
- sampling_strategy: oversampling
- body_learning_rate: (2e-05, 1e-05)
- head_learning_rate: 0.01
- loss: CosineSimilarityLoss
- distance_metric: cosine_distance
- margin: 0.25
- end_to_end: False
- use_amp: False
- warmup_proportion: 0.1
- seed: 42
- eval_max_steps: -1
- load_best_model_at_end: False

### Framework Versions
- Python: 3.10.12
- SetFit: 1.0.3
- Sentence Transformers: 2.7.0
- Transformers: 4.40.1
- PyTorch: 2.2.1+cu121
- Datasets: 2.19.1
- Tokenizers: 0.19.1

## Citation

### BibTeX
```bibtex
@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
```

<!--
## Glossary

*Clearly define terms in order to be accessible across audiences.*
-->

<!--
## Model Card Authors

*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->

<!--
## Model Card Contact

*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->