sentence-transformers safetensors xlm-roberta sentence-similarity feature-extraction generated_from_trainer dataset_size:920106 loss:MatryoshkaLoss loss:MultipleNegativesRankingLoss tr arxiv:1908.10084 arxiv:2205.13147 arxiv:1705.00652 base_model:intfloat/multilingual-e5-large-instruct base_model:finetune:intfloat/multilingual-e5-large-instruct license:apache-2.0 autotrain_compatible text-embeddings-inference endpoints_compatible region:us
---
base_model: intfloat/multilingual-e5-large-instruct
language:
- tr
library_name: sentence-transformers
license: apache-2.0
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:920106
- loss:MatryoshkaLoss
- loss:MultipleNegativesRankingLoss
widget:
- source_sentence: Fısıh için patates cipsi kosher
  sentences:
  - 'Geçen yıl 125.000 $ kazandıysanız ve 10.000 $ düşebiliyorsanız, vergilendirilebilir
    geliriniz 115.000 $ ''a düşürülür. Ontario''da yaşadıysanız, indiriminiz sizi
    sadece 4.000 $ ''ın üzerinde vergiden kurtarır. Öte yandan, 10.000 $''lık bir
    vergi kredisi sadece 2,105 $ değerinde olurdu. Yukarıdaki, kesintilerin her zaman
    vergi kredilerinden daha iyi olduğunu gösteriyor gibi görünüyor, ancak her zaman
    değil: Bir vergi kredisi ve indirim, 35.000 $ vergi elde ederseniz aynı tasarrufla
    sonuçlanacaktır.'
  - Diğer şeker ikame edicilere göre daha az bir aftertate sahip olduğu iddia edilir
    ve fırınlanmış ürünlerde ve yumuşak içeceklerde kullanıma uygundur. Ürün Kosher
    - ve potansiyel olarak Hamursuz Bayramı için Kosher - ve yakın gelecekte birçok
    üründe görünmesini bekleyebiliriz.Ayrıca hepimiz güçlü müshiller olduklarının
    farkında olmalıyız!) Rosh Hashana yaklaşırken, belki de Shimshon'un benzetmesini
    genişletebiliriz ve bir kullanım için bir tatlı olabilir.
  - Hamursuz Bayramı için Kaşer işaretli patates cipsi bu sorunların hiçbirisi olmadığı
    için sertifikalandırılmıştır...Köşe yağında kızartılmış basit patates, Hamursuz
    Bayramı için Kaşer olmayan hiçbir şey yapmayan makinelerde işlenir.Fısıh Bayramı
    için Kaşer işaretli patates cipsleri bu sorunlardan hiçbirine sahip olmadığı için
    sertifikalandırılmıştır...Köşe yağında kızartılmış basit patates, Hamursuz Bayramı
    için Kaşer olmayan makinelerde işlenmiştir.
- source_sentence: Kim söyledi mona lisa gülümsemesini kaybetti
  sentences:
  - Mona Lisa Lost Her Smile sözleri ve akorları sadece kişisel kullanımınız için
    tasarlanmıştır, gerçekten David Allan Coe tarafından kaydedilen güzel bir country
    şarkısıdır.
  - 'Arama Ara: Rose Müzik merkezi, Huber Heights, OH''da bulunan ve Interstate 70''in
    hemen dışında yer alan tamamen kapalı bir açık hava amfitiyatrosudur. Amfitiyatro,
    balkon koltuklarının ön sıra koltukları kadar iyi olduğu 4200 kişilik bir oturma
    kapasiteli mekandır. Bu tesiste nerede oturursanız oturun, bir fan olarak deneyiminizin
    avantajları vardır.'
  - Ortaya çıkan görüntüler, yüzlerce yıllık vernik ve diğer değişiklikleri ortadan
    kaldırıyor, sanatçının boyalı figürü nasıl hayata geçirdiğine ve da Vinci ve çağdaşlarına
    nasıl göründüğüne ışık tutuyor. Mona Lisa'nın yüzü biraz daha geniş görünüyor
    ve gülümseme farklı ve gözler farklı, dedi Cotte.
- source_sentence: kovanlar bir tür gıda zehirlenmesidir
  sentences:
  - Bazen gıda zehirlenmesinden hasta hissetmek, kötü yiyecekleri yedikten sonraki
    saatler içinde ortaya çıkar. Diğer zamanlarda, biri birkaç gün sonraya kadar hasta
    hissetmeyebilir. Hafif gıda zehirlenmesi vakalarında, çok uzun süre hasta hissetmeyeceksiniz
    ve yakında tekrar iyi hissedeceksiniz.
  - Bebeklerde botulizm. genellikle kabızlığa neden olur; yetişkinlerde, ya da neden
    olabilir. Kabızlık veya ishal. Gıda alerjileri gıda zehirlenmesi ile karıştırılabilir.
    En ciddi alerjik reaksiyon türleri anidir. kaşıntı, kovanlar, nefes alma zorluğu
    ve düşük kan pre-. tabi. Buna anafilaksi veya alerjik şok denir.
  - CloseHandle. CloseHandle işlevi açık bir nesne kulpunu kapatır. BOOL CloseHandle(
    Handle hObject // close to close to close ; Parametreler hObject Handle to a open
    object. Return Values. Fonksiyon başarılı olursa, dönüş değeri sıfırdır. İşlev
    başarısız olursa, dönüş değeri sıfırdır. Genişletilmiş hata bilgisi almak için
    GetLastError. Remarks'u arayın.
- source_sentence: Hint Müslüman erkek çocuk isimleri ile anlam
  sentences:
  - Hayır, hamileyseniz pişmemiş pepperoni yemek güvenli değildir. Ham gıda, listeria
    olarak adlandırılan zararlı bakteriler içerir. Listeria bakterileri, hamile kadınlarda
    beyin enfeksiyonuna ve hatta ölüme yol açabilecek listeriosis'e neden olabilir.
  - Bir erkek ya da kız için güzel bir isme ihtiyacınız olsun, size dünya çapında
    popüler isimlerin büyük bir koleksiyonunu veriyoruz. İsteğinize bağlı olarak bebeğiniz
    için bir Hıristiyan adı, bir Hindu adı veya bir Müslüman adı seçebilirsiniz. Bir
    erkek ya da kız için güzel bir isme ihtiyacınız varsa, size dünya çapında popüler
    isimlerin büyük bir koleksiyonunu veriyoruz. İsteğinize bağlı olarak bebeğiniz
    için bir Hıristiyan adı, bir Hindu adı veya bir Müslüman adı seçebilirsiniz.
  - '- Modern bebek erkek isimleri. - Modern bebek kız isimleri. Hint Boy ve Hint
    Kız İsimleri Komple Listesi. Anlamları ile bebek isimleri tam listemize göz atın,
    sevimli bebek fotoğrafları, anketler, zodyak etkisi ve çok daha fazlası prensesiniz
    veya rockstar.ee için en iyi ismi seçmek için bizim kapsamlı veritabanı popüler
    Hindu isimleri, benzersiz Müslüman isimleri, en iyi on Sih isimleri, A''dan Z''ye
    Hıristiyan isimleri, sevimli bebek Pencap isimleri, kısa ve tatlı Jain Gurati,
    güzel'
- source_sentence: ret kuyruğu nedir
  sentences:
  - 'Bir kuyruktan gelen mesajlar ''ölü harfli'' olabilir; yani, aşağıdaki olaylardan
    herhangi biri meydana geldiğinde başka bir değiş tokuşa yeniden yayınlanabilir:
    1 İleti, requeue=false ile (basic.reject veya basic.nack) reddedilir, 2 İletinin
    TTL''si sona erer; veya. 3 Kuyruk uzunluğu sınırı aşılır.'
  - 2.'reddetmek'. Bir fikir veya inançla aynı fikirde değilseniz,'reddetmek' demiyorsunuz.
    Bunu reddettiğinizi söylüyorsunuz. Bazı insanlar karma ekonomi fikrini reddediyor.
    Ailemin dini inançlarını reddetmek benim için zordu. 3. İsim olarak kullanılır.
    Reddetmek, attığınız şeylere atıfta bulunmak için kullanılan bir isimdir.
  - Clark County, Amerika Birleşik Devletleri'nin Wisconsin eyaletinde yer alan bir
    ilçedir. 2010 nüfus sayımına göre nüfusu 34.690'dır. İlçe merkezi Neillsville'dir.
---

# intfloat-fine-tuned

This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-large-instruct](https://huggingface.co/intfloat/multilingual-e5-large-instruct) on the json dataset. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

## Model Details

### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [intfloat/multilingual-e5-large-instruct](https://huggingface.co/intfloat/multilingual-e5-large-instruct) <!-- at revision c9e87c786ffac96aeaeb42863276930883923ecb -->
- **Maximum Sequence Length:** 512 tokens
- **Output Dimensionality:** 1024 tokens
- **Similarity Function:** Cosine Similarity
- **Training Dataset:**
    - json
- **Language:** tr
- **License:** apache-2.0

### Model Sources

- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)

### Full Model Architecture

```
SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)
```

## Usage

### Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

```bash
pip install -U sentence-transformers
```

Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("Omerhan/checkpoint-12496-v5")
# Run inference
sentences = [
    'ret kuyruğu nedir',
    "Bir kuyruktan gelen mesajlar 'ölü harfli' olabilir; yani, aşağıdaki olaylardan herhangi biri meydana geldiğinde başka bir değiş tokuşa yeniden yayınlanabilir: 1 İleti, requeue=false ile (basic.reject veya basic.nack) reddedilir, 2 İletinin TTL'si sona erer; veya. 3 Kuyruk uzunluğu sınırı aşılır.",
    "2.'reddetmek'. Bir fikir veya inançla aynı fikirde değilseniz,'reddetmek' demiyorsunuz. Bunu reddettiğinizi söylüyorsunuz. Bazı insanlar karma ekonomi fikrini reddediyor. Ailemin dini inançlarını reddetmek benim için zordu. 3. İsim olarak kullanılır. Reddetmek, attığınız şeylere atıfta bulunmak için kullanılan bir isimdir.",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```

<!--
### Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details>
-->

<!--
### Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details>
-->

<!--
### Out-of-Scope Use

*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->

<!--
## Bias, Risks and Limitations

*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->

<!--
### Recommendations

*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->

## Training Details

### Training Dataset

#### json

* Dataset: json
* Size: 920,106 training samples
* Columns: <code>anchor</code>, <code>positive</code>, and <code>negative</code>
* Approximate statistics based on the first 1000 samples:
  |         | anchor                                                                            | positive                                                                            | negative                                                                           |
  |:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|
  | type    | string                                                                            | string                                                                              | string                                                                             |
  | details | <ul><li>min: 4 tokens</li><li>mean: 10.38 tokens</li><li>max: 39 tokens</li></ul> | <ul><li>min: 26 tokens</li><li>mean: 81.21 tokens</li><li>max: 149 tokens</li></ul> | <ul><li>min: 4 tokens</li><li>mean: 78.05 tokens</li><li>max: 133 tokens</li></ul> |
* Samples:
  | anchor                                        | positive                                                                                                                                                                                                                                                                                                                                                                                                                                                                              | negative                                                                                                                                                                                                                                                                                |
  |:----------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>Avustralya'ya özgü hangi meyve</code>   | <code>Passiflora herbertiana. Avustralya'ya özgü nadir bir tutku meyvesi. Meyveler yeşil tenli, beyaz etli, bilinmeyen bir yenilebilir derecelendirmeye sahiptir. Bazı kaynaklar meyveyi yenilebilir, tatlı ve lezzetli olarak listelerken, diğerleri meyveleri acı ve yenemez olarak listeler. Avustralya'ya özgü nadir bir tutku meyvesi. Meyveler yeşil tenli, beyaz etli, bilinmeyen yenilebilir bir derecelendirmeye sahip. Bazı kaynaklar meyveyi tatlı olarak listeler.</code> | <code>Kola cevizi, Afrika'nın tropikal yağmur ormanlarına özgü bir ağaç cinsidir (Cola).</code>                                                                                                                                                                                         |
  | <code>meyve ağaçları türleri</code>           | <code>Kiraz. Kiraz ağaçları dünya çapında bulunur. Kirazdan siyah kiraza kadar değişen 40 veya daha fazla çeşit vardır. Meyve ile birlikte, kiraz ağaçları, son derece hoş kokulu hafif ve narin pembemsi-beyaz çiçekler üretir.Omments. Submit. Mülkünüze meyve ağaçları dikmek sadece size istikrarlı bir organik meyve kaynağı sağlamakla kalmaz, aynı zamanda bahçenizi güzelleştirmenizi ve oksijeni çevreye geri vermenizi sağlar.</code>                                       | <code>Kola cevizi, Afrika'nın tropikal yağmur ormanlarına özgü bir ağaç cinsidir (Cola).</code>                                                                                                                                                                                         |
  | <code>Harrison City Pa nerede yaşıyor?</code> | <code>Harrison City, Amerika Birleşik Devletleri'nin Pensilvanya eyaletinde yer alan Westmoreland County'de nüfus sayımına göre belirlenmiş bir yerdir. 2000 nüfus sayımında nüfus 155'tir.</code>                                                                                                                                                                                                                                                                                    | <code>En yakın şehirler: Vandling borough, PA (1.1 mil ), Simpson, PA (2.0 mil ), Union Dale borough, PA (2,1 mil ), Carbondale, PA (2,4 mil ), Waymart borough, PA (2,4 mil ), Mayfield borough, PA (2.9 mil ), Prompion borough, PA (2.9 mil ), Jermyn borough, PA (3.1 mil ).</code> |
* Loss: [<code>MatryoshkaLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#matryoshkaloss) with these parameters:
  ```json
  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          1024
      ],
      "matryoshka_weights": [
          1
      ],
      "n_dims_per_step": -1
  }
  ```

### Training Hyperparameters
#### Non-Default Hyperparameters

- `gradient_accumulation_steps`: 8
- `learning_rate`: 1e-06
- `num_train_epochs`: 1
- `lr_scheduler_type`: cosine
- `tf32`: True
- `optim`: adamw_torch_fused
- `batch_sampler`: no_duplicates

#### All Hyperparameters
<details><summary>Click to expand</summary>

- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: no
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 8
- `per_device_eval_batch_size`: 8
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 8
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 1e-06
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 1
- `max_steps`: -1
- `lr_scheduler_type`: cosine
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: False
- `fp16`: False
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: True
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: False
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: False
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch_fused
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: False
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`: 
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `use_liger_kernel`: False
- `eval_use_gather_object`: False
- `batch_sampler`: no_duplicates
- `multi_dataset_batch_sampler`: proportional

</details>

### Training Logs
| Epoch  | Step  | Training Loss |
|:------:|:-----:|:-------------:|
| 0.0348 | 500   | 0.2346        |
| 0.0696 | 1000  | 0.1237        |
| 0.1043 | 1500  | 0.1123        |
| 0.1391 | 2000  | 0.1073        |
| 0.1739 | 2500  | 0.1078        |
| 0.2087 | 3000  | 0.1007        |
| 0.2434 | 3500  | 0.0966        |
| 0.2782 | 4000  | 0.1015        |
| 0.3130 | 4500  | 0.0967        |
| 0.3478 | 5000  | 0.0936        |
| 0.3826 | 5500  | 0.1019        |
| 0.4173 | 6000  | 0.0898        |
| 0.4521 | 6500  | 0.0925        |
| 0.4869 | 7000  | 0.0941        |
| 0.5217 | 7500  | 0.1018        |
| 0.5565 | 8000  | 0.095         |
| 0.5912 | 8500  | 0.0846        |
| 0.6260 | 9000  | 0.0924        |
| 0.6608 | 9500  | 0.0965        |
| 0.6956 | 10000 | 0.0863        |
| 0.7303 | 10500 | 0.093         |
| 0.7651 | 11000 | 0.0923        |
| 0.7999 | 11500 | 0.0923        |
| 0.8347 | 12000 | 0.0923        |


### Framework Versions
- Python: 3.10.12
- Sentence Transformers: 3.1.1
- Transformers: 4.45.2
- PyTorch: 2.5.1+cu121
- Accelerate: 1.2.1
- Datasets: 3.2.0
- Tokenizers: 0.20.3

## Citation

### BibTeX

#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
```

#### MatryoshkaLoss
```bibtex
@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}
```

#### MultipleNegativesRankingLoss
```bibtex
@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}
```

<!--
## Glossary

*Clearly define terms in order to be accessible across audiences.*
-->

<!--
## Model Card Authors

*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->

<!--
## Model Card Contact

*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->