sentence-transformers safetensors xlm-roberta sentence-similarity feature-extraction generated_from_trainer dataset_size:3804390 loss:RZTKMatryoshka2dLoss arxiv:1908.10084 base_model:intfloat/multilingual-e5-base base_model:finetune:intfloat/multilingual-e5-base model-index autotrain_compatible text-embeddings-inference endpoints_compatible region:us
---
base_model: intfloat/multilingual-e5-base
library_name: sentence-transformers
metrics:
- dot_accuracy_10
- dot_precision_10
- dot_recall_10
- dot_ndcg_10
- dot_mrr_10
- dot_map_60
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:3804390
- loss:RZTKMatryoshka2dLoss
widget:
- source_sentence: 'query: чоловічіпіжами'
  sentences:
  - 'passage: Портативна зарядна станція EcoFlow DELTA 2 1800W 1024 W/h Зарядні станції
    EcoFlow Тип акумуляторів Літій-залізо-фосфатні (LiFePO4) Призначення Для всього
    будинку Призначення Для ноутбуків Країна-виробник товару Китай Вихідні інтерфейси
    Розетка 220 В Вихідні інтерфейси 2 x DC-роз''єм Вихідні інтерфейси Гніздо прикурювача
    Вихідні інтерфейси USB Type C Вихідні інтерфейси USB Type A Місткість зарядної
    станції, Вт*год 1024 Вихідна потужність (загальна), Вт 1800 Максимальна потужність
    заряджання (220В), Вт 1800'
  - 'passage: Плата UPS для роутера USB/Li-ion/12V модуль підвищення Аксесуари для
    акумуляторів BAT'
  - 'passage: Піжама чоловіча на флісі напівбатальна темно-сірого кольору K.S.M. розмір
    50-52 (195976) Чоловічі піжами KSM'
- source_sentence: 'query: чоловічіпіжами'
  sentences:
  - 'passage: Віскі Balvenie Doublewood 12 років витримки 0.05 л 40% (5010327529219_5010327509112)
    Balvenie Об''єм, л 0.05 Міцність 40% Витримка 12 років Країна-виробник товару
    Велика Британія Вид Віскі односолодовий Особливості Холодна фільтрація Поєднання
    Дижестив Смак Солодкий (Sweet) Доставка Готовий до відправлення Доставка Доставка
    в магазини ROZETKA'
  - 'passage: Віскі GlenAllachie 15yo 0.05 л 46% (5060568320960) Glenallachie Об''єм,
    л 0.05 Міцність 46% Витримка 15 років Країна-виробник товару Велика Британія Упаковка
    Без упаковки Доставка Доставка в магазини ROZETKA'
  - 'passage: Піжама чоловіча комбінована махра 48 темно-синій Жемчужина Стилей Aрт(4612)
    Чоловічі піжами Жемчужина Стилей Сезон Демісезонний Сезон Зимовий Розмір 48 Колір
    Темно-синій'
- source_sentence: 'query: піна для гоління'
  sentences:
  - 'passage: Пиджак удлиненный женский Koton 8YAK52518UW-999 38 Black (8681890032740)
    Женские пиджаки Koton Количество грузовых мест 1 Страна регистрации бренда Турция
    Страна-производитель товара Турция Размер 38 Стиль Повседневный (casual) Цвет
    Черный Материал Полиэстер Материал Эластан Доставка Доставка в магазины ROZETKA'
  - 'passage: Набор косметики Create it! Русалочка (84141) (8712916084532) Различные
    наборы для детского творчества Create it! Гарантия 14 дней Вид Детская декоративная
    косметика Пол ребенка Девочка Количество грузовых мест 1 Страна регистрации бренда
    Нидерланды Страна-производитель товара Китай Детский возраст 8 лет Детский возраст
    10 лет Детский возраст 6 лет Детский возраст 7 лет Детский возраст 9 лет Детский
    возраст 12 лет Детский возраст 11 лет Тип гарантийного талона Гарантия по чеку
    Доставка Premium Доставка Доставка в магазины ROZETKA'
  - 'passage: Освежающая и тонизирующая пена для бритья Proraso 300 мл (8004395001927)
    Косметика для бритья Proraso Класс косметики Профессиональная Пол Для мужчин Количество
    грузовых мест 1 Страна регистрации бренда Италия Количество предметов, шт 1 Страна-производитель
    товара Италия Объем 300 мл Тип кожи Для всех типов Тип гарантийного талона Гарантия
    по чеку Вид Пена Доставка Premium Доставка Доставка в магазины ROZETKA'
- source_sentence: 'query: піжама дитяча'
  sentences:
  - 'passage: Піжама дитяча для дівчаток флісова RI-TEX М-056.5 Зірки 152-158 Пижамы
    для девочек  Сезон Зимний Страна-производитель товара Украина Цвет Серый Рост
    152 см Рост 158 см Детский возраст 13 лет Детский возраст 12 лет'
  - 'passage: Спортивний костюм для дівчат Валері-Текс 1895-20-365-017 128 см Малиновий
    Спортивные костюмы для девочек Valeri-tex Страна-производитель товара Украина
    Цвет Малиновый Материал Велюр Рост 128 см'
  - 'passage: Насадка пылеуловитель для болгарки Craft CSH-125 Столы, стойки, насадки
    Craft Гарантия 12 месяцев Назначение Для УШМ Страна-производитель товара Китай
    Теги недорогие Тип Комплектующие'
- source_sentence: 'query: сумка жіноча шкіра'
  sentences:
  - 'passage: Жіночі спортивні шорти Overgym персикові XS Жіночі спортивні шорти Over
    Gym Країна реєстрації бренда Україна Країна-виробник товару Китай Колір Персиковий
    Матеріал Поліамід Матеріал Поліестер Принт Однотонний'
  - 'passage: Жіноча сумка шкіряна Borsacomoda 813023 Чорна Сумки Borsacomoda Для
    кого Для жінок Вид Сумки Колір Чорний Кількість вантажних місць 1 Модель сумки
    Крос-боді Матеріал Шкіра Країна реєстрації бренда Україна Країна-виробник товару
    Україна Тип гарантійного талона Гарантія по чеку Застібка Змійка Доставка Premium
    Доставка Доставка в магазини ROZETKA'
  - 'passage: Індукційна варильна поверхня Gunter&Hauer I 6 FB (6778875) Варильні
    поверхні індукційні Gunter&Hauer Функції Індикатор залишкового тепла Функції Захист
    від дітей Можливість під''єднання до мережі 220 В'
model-index:
- name: SentenceTransformer based on intfloat/multilingual-e5-base
  results:
  - task:
      type: rztkinformation-retrieval
      name: RZTKInformation Retrieval
    dataset:
      name: 'core uk  matryoshka dim 768  '
      type: core-uk--matryoshka_dim-768--
    metrics:
    - type: dot_accuracy_10
      value: 0.979002624671916
      name: Dot Accuracy 10
    - type: dot_precision_10
      value: 0.3796587926509187
      name: Dot Precision 10
    - type: dot_recall_10
      value: 0.45280225388493106
      name: Dot Recall 10
    - type: dot_ndcg_10
      value: 0.5583367249487432
      name: Dot Ndcg 10
    - type: dot_mrr_10
      value: 0.8503004832729241
      name: Dot Mrr 10
    - type: dot_map_60
      value: 0.39511574225334306
      name: Dot Map 60
  - task:
      type: rztkinformation-retrieval
      name: RZTKInformation Retrieval
    dataset:
      name: 'core ru  matryoshka dim 768  '
      type: core-ru--matryoshka_dim-768--
    metrics:
    - type: dot_accuracy_10
      value: 0.9724409448818898
      name: Dot Accuracy 10
    - type: dot_precision_10
      value: 0.3753280839895013
      name: Dot Precision 10
    - type: dot_recall_10
      value: 0.44887826521684787
      name: Dot Recall 10
    - type: dot_ndcg_10
      value: 0.5583301697325973
      name: Dot Ndcg 10
    - type: dot_mrr_10
      value: 0.8581588759738366
      name: Dot Mrr 10
    - type: dot_map_60
      value: 0.39791822283097145
      name: Dot Map 60
  - task:
      type: rztkinformation-retrieval
      name: RZTKInformation Retrieval
    dataset:
      name: 'vespa uk  matryoshka dim 768  '
      type: vespa-uk--matryoshka_dim-768--
    metrics:
    - type: dot_accuracy_10
      value: 0.8913043478260869
      name: Dot Accuracy 10
    - type: dot_precision_10
      value: 0.65
      name: Dot Precision 10
    - type: dot_recall_10
      value: 0.21543325236733296
      name: Dot Recall 10
    - type: dot_ndcg_10
      value: 0.7328694108300967
      name: Dot Ndcg 10
    - type: dot_mrr_10
      value: 0.8577898550724636
      name: Dot Mrr 10
    - type: dot_map_60
      value: 0.521722082197244
      name: Dot Map 60
  - task:
      type: rztkinformation-retrieval
      name: RZTKInformation Retrieval
    dataset:
      name: 'vespa ru  matryoshka dim 768  '
      type: vespa-ru--matryoshka_dim-768--
    metrics:
    - type: dot_accuracy_10
      value: 0.9130434782608695
      name: Dot Accuracy 10
    - type: dot_precision_10
      value: 0.6391304347826087
      name: Dot Precision 10
    - type: dot_recall_10
      value: 0.214877024136512
      name: Dot Recall 10
    - type: dot_ndcg_10
      value: 0.7176653908267321
      name: Dot Ndcg 10
    - type: dot_mrr_10
      value: 0.8270962732919255
      name: Dot Mrr 10
    - type: dot_map_60
      value: 0.5150948980713368
      name: Dot Map 60
---

# SentenceTransformer based on intfloat/multilingual-e5-base

This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base) on the core dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

## Model Details

### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base) <!-- at revision 835193815a3936a24a0ee7dc9e3d48c1fbb19c55 -->
- **Maximum Sequence Length:** 512 tokens
- **Output Dimensionality:** 768 dimensions
- **Similarity Function:** Dot Product
- **Training Dataset:**
    - core
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->

### Model Sources

- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)

### Full Model Architecture

```
RZTKSentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)
```

## Usage

### Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

```bash
pip install -U sentence-transformers
```

Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("yklymchuk-rztk/multiple-datasets-e5-jina-mnr-3-electronics-only")
# Run inference
sentences = [
    'query: сумка жіноча шкіра',
    'passage: Жіноча сумка шкіряна Borsacomoda 813023 Чорна Сумки Borsacomoda Для кого Для жінок Вид Сумки Колір Чорний Кількість вантажних місць 1 Модель сумки Крос-боді Матеріал Шкіра Країна реєстрації бренда Україна Країна-виробник товару Україна Тип гарантійного талона Гарантія по чеку Застібка Змійка Доставка Premium Доставка Доставка в магазини ROZETKA',
    "passage: Індукційна варильна поверхня Gunter&Hauer I 6 FB (6778875) Варильні поверхні індукційні Gunter&Hauer Функції Індикатор залишкового тепла Функції Захист від дітей Можливість під'єднання до мережі 220 В",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```

<!--
### Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details>
-->

<!--
### Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details>
-->

<!--
### Out-of-Scope Use

*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->

## Evaluation

### Metrics

#### RZTKInformation Retrieval

* Datasets: `core-uk--matryoshka_dim-768--`, `core-ru--matryoshka_dim-768--`, `vespa-uk--matryoshka_dim-768--` and `vespa-ru--matryoshka_dim-768--`
* Evaluated with <code>sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator</code>

| Metric           | core-uk--matryoshka_dim-768-- | core-ru--matryoshka_dim-768-- | vespa-uk--matryoshka_dim-768-- | vespa-ru--matryoshka_dim-768-- |
|:-----------------|:------------------------------|:------------------------------|:-------------------------------|:-------------------------------|
| dot_accuracy_10  | 0.979                         | 0.9724                        | 0.8913                         | 0.913                          |
| dot_precision_10 | 0.3797                        | 0.3753                        | 0.65                           | 0.6391                         |
| dot_recall_10    | 0.4528                        | 0.4489                        | 0.2154                         | 0.2149                         |
| **dot_ndcg_10**  | **0.5583**                    | **0.5583**                    | **0.7329**                     | **0.7177**                     |
| dot_mrr_10       | 0.8503                        | 0.8582                        | 0.8578                         | 0.8271                         |
| dot_map_60       | 0.3951                        | 0.3979                        | 0.5217                         | 0.5151                         |

<!--
## Bias, Risks and Limitations

*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->

<!--
### Recommendations

*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->

## Training Details

### Training Dataset

#### core

* Dataset: core
* Size: 3,804,390 training samples
* Columns: <code>query</code> and <code>text</code>
* Approximate statistics based on the first 1000 samples:
  |         | query                                                                             | text                                                                                  |
  |:--------|:----------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------|
  | type    | string                                                                            | string                                                                                |
  | details | <ul><li>min: 7 tokens</li><li>mean: 12.5 tokens</li><li>max: 256 tokens</li></ul> | <ul><li>min: 120 tokens</li><li>mean: 480.81 tokens</li><li>max: 512 tokens</li></ul> |
* Samples:
  | query                                    | text                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                     |
  |:-----------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>query: 555 anker</code>            | <code>passage: Зарядна станція Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅год / LiFePO4 (A1760311) Зарядні станції Anker Гарантія 5 років Тип акумуляторів Літій-залізо-фосфатні (LiFePO4) Колір Чорний Ємність батареї, мА*год 320000 Заряджається від Від мережі Призначення Для телевізорів Призначення Для ноутбуків Призначення Для персональних комп'ютерів Особливості З ліхтариком Особливості Протиударний Особливості Швидке заряджання батареї Кількість вантажних місць 1 Країна реєстрації бренда США Країна-виробник товару Китай Функції зарядки PowerIQ Функції зарядки Power Delivery Функції зарядки Наскрізна зарядка Тип гарантійного талона Гарантійний талон магазина Вихідна напруга, В 20 Вихідна напруга, В 9 Вихідна напруга, В 12 Вихідна напруга, В 220 Вихідна напруга, В 5 Вихідна напруга, В 15 Індикація З дисплеєм Одночасне заряджання пристроїв 8 Вихідні інтерфейси Розетка 220 В Вихідні інтерфейси USB Type C Вихідні інтерфейси USB Type A Вихідні інтерфейси Гніздо прикурювача Вхідні інтерфейси USB Ty...</code> |
  | <code>query: 555 anker</code>            | <code>passage: Зарядная станция Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅ч / LiFePO4 (A1760311) Зарядные станции Anker Гарантия 5 лет Тип аккумуляторов Литий-железо-фосфатные (LiFePO4) Цвет Черный Емкость батареи, мА*ч 320000 Заряжается от От сети Назначение Для телевизоров Назначение Для ноутбуков Назначение Для персональных компьютеров Особенности С фонариком Особенности Противоударный Особенности Быстрая зарядка батареи Количество грузовых мест 1 Страна регистрации бренда США Страна-производитель товара Китай Функции зарядки PowerIQ Функции зарядки Power Delivery Функции зарядки Сквозная зарядка Тип гарантийного талона Гарантийный талон магазина Выходное напряжение, В 20 Выходное напряжение, В 9 Выходное напряжение, В 12 Выходное напряжение, В 220 Выходное напряжение, В 5 Выходное напряжение, В 15 Индикация С дисплеем Одновременно заряжаемых устройств 8 Выходные интерфейсы Розетка 220 В Выходные интерфейсы USB Type C Выходные интерфейсы USB Type A Выходные интерфейсы Гнездо прикуривателя ...</code> |
  | <code>query: anker-powerhouse-555</code> | <code>passage: Зарядная станция Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅ч / LiFePO4 (A1760311) Зарядные станции Anker Гарантия 5 лет Тип аккумуляторов Литий-железо-фосфатные (LiFePO4) Цвет Черный Емкость батареи, мА*ч 320000 Заряжается от От сети Назначение Для телевизоров Назначение Для ноутбуков Назначение Для персональных компьютеров Особенности С фонариком Особенности Противоударный Особенности Быстрая зарядка батареи Количество грузовых мест 1 Страна регистрации бренда США Страна-производитель товара Китай Функции зарядки PowerIQ Функции зарядки Power Delivery Функции зарядки Сквозная зарядка Тип гарантийного талона Гарантийный талон магазина Выходное напряжение, В 20 Выходное напряжение, В 9 Выходное напряжение, В 12 Выходное напряжение, В 220 Выходное напряжение, В 5 Выходное напряжение, В 15 Индикация С дисплеем Одновременно заряжаемых устройств 8 Выходные интерфейсы Розетка 220 В Выходные интерфейсы USB Type C Выходные интерфейсы USB Type A Выходные интерфейсы Гнездо прикуривателя ...</code> |
* Loss: <code>sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss</code> with these parameters:
  ```json
  {
      "loss": "RZTKMultipleNegativesRankingLoss",
      "n_layers_per_step": 1,
      "last_layer_weight": 1.0,
      "prior_layers_weight": 1.0,
      "kl_div_weight": 1.0,
      "kl_temperature": 0.3,
      "matryoshka_dims": [
          768,
          512,
          256,
          128
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": 1
  }
  ```

### Evaluation Datasets

#### core_uk

* Dataset: core_uk
* Size: 3,220 evaluation samples
* Columns: <code>query</code> and <code>text</code>
* Approximate statistics based on the first 1000 samples:
  |         | query                                                                             | text                                                                                |
  |:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
  | type    | string                                                                            | string                                                                              |
  | details | <ul><li>min: 8 tokens</li><li>mean: 10.66 tokens</li><li>max: 16 tokens</li></ul> | <ul><li>min: 19 tokens</li><li>mean: 114.2 tokens</li><li>max: 512 tokens</li></ul> |
* Samples:
  | query                            | text                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            |
  |:---------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>query: лампочка е27</code> | <code>passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампи OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів RGB (різнокольоровий) Колір світіння / Температура кольорів Теплий білий Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З дистанційним управлінням Особливості З регулюванням яскравості (димер) Строк служби лампи, год 25000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Доставка в магазини ROZETKA</code> |
  | <code>query: лампочка е27</code> | <code>passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Лампи Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год теги лампи недорого Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 3000 К Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA</code>                                   |
  | <code>query: лампочка е27</code> | <code>passage: Набір світлодіодних ламп Евросвет 12 W 4200 K Е27 (56702) 4 шт. Лампи Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 4200К Матеріал колби Пластик Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA</code>                                    |
* Loss: <code>sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss</code> with these parameters:
  ```json
  {
      "loss": "RZTKMultipleNegativesRankingLoss",
      "n_layers_per_step": 1,
      "last_layer_weight": 1.0,
      "prior_layers_weight": 1.0,
      "kl_div_weight": 1.0,
      "kl_temperature": 0.3,
      "matryoshka_dims": [
          768,
          512,
          256,
          128
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": 1
  }
  ```

#### core_ru

* Dataset: core_ru
* Size: 3,220 evaluation samples
* Columns: <code>query</code> and <code>text</code>
* Approximate statistics based on the first 1000 samples:
  |         | query                                                                             | text                                                                                 |
  |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
  | type    | string                                                                            | string                                                                               |
  | details | <ul><li>min: 8 tokens</li><li>mean: 10.66 tokens</li><li>max: 16 tokens</li></ul> | <ul><li>min: 18 tokens</li><li>mean: 109.38 tokens</li><li>max: 512 tokens</li></ul> |
* Samples:
  | query                            | text                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          |
  |:---------------------------------|:----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>query: лампочка е27</code> | <code>passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампы OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура RGB (разноцветный) Цвет свечения / Цветовая температура Теплый белый Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С дистанционным управлением Особенности С регулировкой яркости (диммер) Срок службы лампы, ч 25000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Доставка в магазины ROZETKA</code> |
  | <code>query: лампочка е27</code> | <code>passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Лампы Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 теги лампы недорого Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 3000К Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA</code>                                    |
  | <code>query: лампочка е27</code> | <code>passage: Набор светодиодных ламп ЕВРОСВЕТ 12W 4200к Е27 (56702) 4 шт Лампы Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 4200К Материал колбы Пластик Доставка Готов к отправке Доставка Доставка в магазины ROZETKA</code>                                                  |
* Loss: <code>sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss</code> with these parameters:
  ```json
  {
      "loss": "RZTKMultipleNegativesRankingLoss",
      "n_layers_per_step": 1,
      "last_layer_weight": 1.0,
      "prior_layers_weight": 1.0,
      "kl_div_weight": 1.0,
      "kl_temperature": 0.3,
      "matryoshka_dims": [
          768,
          512,
          256,
          128
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": 1
  }
  ```

#### vespa_uk

* Dataset: vespa_uk
* Size: 5,315 evaluation samples
* Columns: <code>query</code> and <code>text</code>
* Approximate statistics based on the first 1000 samples:
  |         | query                                                                            | text                                                                               |
  |:--------|:---------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|
  | type    | string                                                                           | string                                                                             |
  | details | <ul><li>min: 7 tokens</li><li>mean: 9.58 tokens</li><li>max: 22 tokens</li></ul> | <ul><li>min: 19 tokens</li><li>mean: 89.9 tokens</li><li>max: 239 tokens</li></ul> |
* Samples:
  | query                                                                         | text                                                                                                                                      |
  |:------------------------------------------------------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: Перехідники для шлангу басейну Intex з 32 мм на 38 мм (IP-175136) Обладнання для басейнів Intex Вид Комплектувальні</code> |
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: З'єднання для шланга Peraqua діаметр 32 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів</code>           |
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: З'єднання для шлангу Peraqua діаметр 32/38 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів</code>        |
* Loss: <code>sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss</code> with these parameters:
  ```json
  {
      "loss": "RZTKMultipleNegativesRankingLoss",
      "n_layers_per_step": 1,
      "last_layer_weight": 1.0,
      "prior_layers_weight": 1.0,
      "kl_div_weight": 1.0,
      "kl_temperature": 0.3,
      "matryoshka_dims": [
          768,
          512,
          256,
          128
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": 1
  }
  ```

#### vespa_ru

* Dataset: vespa_ru
* Size: 5,315 evaluation samples
* Columns: <code>query</code> and <code>text</code>
* Approximate statistics based on the first 1000 samples:
  |         | query                                                                            | text                                                                                |
  |:--------|:---------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
  | type    | string                                                                           | string                                                                              |
  | details | <ul><li>min: 7 tokens</li><li>mean: 9.58 tokens</li><li>max: 22 tokens</li></ul> | <ul><li>min: 20 tokens</li><li>mean: 87.33 tokens</li><li>max: 232 tokens</li></ul> |
* Samples:
  | query                                                                         | text                                                                                                                                        |
  |:------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------|
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: Переходники для шланга бассейна Intex с 32 мм на 38 мм (IP-175136) Оборудование для бассейнов Intex Вид Комплектующие</code> |
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: Соединение для шланга Peraqua диаметр 32 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов</code>             |
  | <code>query: шланга диаметром 32 мм для викачки брудної води з басейну</code> | <code>passage: Соединение для шланга Peraqua диаметр 32/38 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов</code>          |
* Loss: <code>sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss</code> with these parameters:
  ```json
  {
      "loss": "RZTKMultipleNegativesRankingLoss",
      "n_layers_per_step": 1,
      "last_layer_weight": 1.0,
      "prior_layers_weight": 1.0,
      "kl_div_weight": 1.0,
      "kl_temperature": 0.3,
      "matryoshka_dims": [
          768,
          512,
          256,
          128
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": 1
  }
  ```

### Training Hyperparameters
#### Non-Default Hyperparameters

- `eval_strategy`: steps
- `per_device_train_batch_size`: 80
- `per_device_eval_batch_size`: 16
- `learning_rate`: 2e-05
- `warmup_ratio`: 0.1
- `bf16`: True
- `bf16_full_eval`: True
- `tf32`: True
- `dataloader_num_workers`: 4
- `load_best_model_at_end`: True
- `optim`: adafactor
- `push_to_hub`: True
- `hub_model_id`: yklymchuk-rztk/multiple-datasets-e5-jina-mnr-3-electronics-only
- `hub_private_repo`: True
- `prompts`: {'query': 'query: ', 'text': 'passage: '}
- `batch_sampler`: no_duplicates

#### All Hyperparameters
<details><summary>Click to expand</summary>

- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: steps
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 80
- `per_device_eval_batch_size`: 16
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 2e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 3
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.1
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: True
- `fp16`: False
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: True
- `fp16_full_eval`: False
- `tf32`: True
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: True
- `dataloader_num_workers`: 4
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: True
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adafactor
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: True
- `resume_from_checkpoint`: None
- `hub_model_id`: yklymchuk-rztk/multiple-datasets-e5-jina-mnr-3-electronics-only
- `hub_strategy`: every_save
- `hub_private_repo`: True
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `include_for_metrics`: []
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`: 
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `use_liger_kernel`: False
- `eval_use_gather_object`: False
- `average_tokens_across_devices`: False
- `prompts`: {'query': 'query: ', 'text': 'passage: '}
- `batch_sampler`: no_duplicates
- `multi_dataset_batch_sampler`: proportional
- `ddp_static_graph`: False
- `ddp_comm_hook`: bf16
- `gradient_as_bucket_view`: False
- `num_proc`: 30

</details>

### Training Logs
<details><summary>Click to expand</summary>

| Epoch  | Step  | Training Loss | core uk loss | core ru loss | vespa uk loss | vespa ru loss | core-uk--matryoshka_dim-768--_dot_ndcg_10 | core-ru--matryoshka_dim-768--_dot_ndcg_10 | vespa-uk--matryoshka_dim-768--_dot_ndcg_10 | vespa-ru--matryoshka_dim-768--_dot_ndcg_10 |
|:------:|:-----:|:-------------:|:------------:|:------------:|:-------------:|:-------------:|:-----------------------------------------:|:-----------------------------------------:|:------------------------------------------:|:------------------------------------------:|
| 0.0151 | 179   | 4.8952        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.0301 | 358   | 4.9239        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.0452 | 537   | 4.7362        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.0602 | 716   | 4.4058        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.0753 | 895   | 4.2344        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.0903 | 1074  | 3.5898        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1054 | 1253  | 3.3581        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1205 | 1432  | 3.2171        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1355 | 1611  | 2.9499        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1506 | 1790  | 3.0239        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1656 | 1969  | 2.5125        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1807 | 2148  | 2.8661        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.1957 | 2327  | 2.7486        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2108 | 2506  | 3.2432        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2259 | 2685  | 3.1127        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2409 | 2864  | 2.9176        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2560 | 3043  | 2.5284        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2710 | 3222  | 2.8496        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.2861 | 3401  | 2.9145        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3001 | 3567  | -             | 0.7853       | 0.7567       | 0.7556        | 0.7125        | 0.5442                                    | 0.5471                                    | 0.7309                                     | 0.7106                                     |
| 0.3011 | 3580  | 2.816         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3162 | 3759  | 2.9181        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3313 | 3938  | 3.0285        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3463 | 4117  | 2.7559        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3614 | 4296  | 2.5055        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3764 | 4475  | 2.9042        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.3915 | 4654  | 2.7473        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4065 | 4833  | 2.7661        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4216 | 5012  | 2.7554        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4367 | 5191  | 2.8431        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4517 | 5370  | 2.4573        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4668 | 5549  | 2.5761        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4818 | 5728  | 2.7071        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.4969 | 5907  | 2.8493        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5119 | 6086  | 2.8784        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5270 | 6265  | 2.7202        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5421 | 6444  | 2.7756        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5571 | 6623  | 2.6471        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5722 | 6802  | 2.7666        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.5872 | 6981  | 2.4328        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6001 | 7134  | -             | 0.7132       | 0.7699       | 0.6077        | 0.6837        | 0.5537                                    | 0.5558                                    | 0.7246                                     | 0.7043                                     |
| 0.6023 | 7160  | 2.7531        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6173 | 7339  | 2.8405        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6324 | 7518  | 2.5655        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6475 | 7697  | 2.2858        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6625 | 7876  | 2.5737        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6776 | 8055  | 2.5102        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.6926 | 8234  | 2.7832        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7077 | 8413  | 2.4454        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7227 | 8592  | 2.4814        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7378 | 8771  | 2.5788        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7529 | 8950  | 2.3763        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7679 | 9129  | 2.4836        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7830 | 9308  | 2.233         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.7980 | 9487  | 2.4032        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8131 | 9666  | 2.6613        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8281 | 9845  | 2.2809        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8432 | 10024 | 2.0115        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8583 | 10203 | 2.5228        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8733 | 10382 | 2.1149        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.8884 | 10561 | 2.5053        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9002 | 10701 | -             | 0.6233       | 0.7107       | 0.5342        | 0.5265        | 0.5634                                    | 0.5636                                    | 0.7626                                     | 0.7526                                     |
| 0.9034 | 10740 | 2.1663        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9185 | 10919 | 2.6719        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9335 | 11098 | 2.4423        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9486 | 11277 | 2.8741        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9637 | 11456 | 2.5291        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9787 | 11635 | 2.5211        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 0.9938 | 11814 | 2.6053        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0089 | 11993 | 2.1993        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0240 | 12172 | 2.4606        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0390 | 12351 | 2.285         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0541 | 12530 | 2.2181        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0691 | 12709 | 2.412         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0842 | 12888 | 2.3145        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.0993 | 13067 | 2.1323        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1143 | 13246 | 2.4581        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1294 | 13425 | 2.3835        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1444 | 13604 | 2.2885        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1595 | 13783 | 2.0034        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1745 | 13962 | 2.2039        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.1896 | 14141 | 2.2068        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2003 | 14268 | -             | 0.6910       | 0.6097       | 0.5389        | 0.5179        | 0.5561                                    | 0.5573                                    | 0.7319                                     | 0.7196                                     |
| 1.2047 | 14320 | 2.468         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2197 | 14499 | 2.4987        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2348 | 14678 | 2.4321        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2498 | 14857 | 2.2351        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2649 | 15036 | 2.167         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2799 | 15215 | 2.6282        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.2950 | 15394 | 2.3824        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3101 | 15573 | 2.4719        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3251 | 15752 | 2.4836        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3402 | 15931 | 2.5208        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3552 | 16110 | 2.3985        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3703 | 16289 | 2.3604        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.3853 | 16468 | 2.5651        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4004 | 16647 | 2.5203        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4155 | 16826 | 2.3643        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4305 | 17005 | 2.4428        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4456 | 17184 | 2.2424        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4606 | 17363 | 2.501         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4757 | 17542 | 2.366         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.4907 | 17721 | 2.4872        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5003 | 17835 | -             | 0.6270       | 0.6293       | 0.5664        | 0.5494        | 0.5581                                    | 0.5602                                    | 0.7362                                     | 0.7159                                     |
| 1.5058 | 17900 | 2.6305        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5209 | 18079 | 2.421         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5359 | 18258 | 2.628         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5510 | 18437 | 2.4255        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5660 | 18616 | 2.4615        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5811 | 18795 | 2.3092        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.5961 | 18974 | 2.3587        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6112 | 19153 | 2.8552        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6263 | 19332 | 2.3535        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6413 | 19511 | 2.3277        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6564 | 19690 | 2.2047        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6714 | 19869 | 2.4503        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.6865 | 20048 | 2.6128        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7015 | 20227 | 2.433         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7166 | 20406 | 2.3849        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7317 | 20585 | 2.3902        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7467 | 20764 | 2.2826        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7618 | 20943 | 2.3408        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7768 | 21122 | 2.093         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.7919 | 21301 | 2.2373        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8004 | 21402 | -             | 0.6020       | 0.6222       | 0.4753        | 0.5565        | 0.5574                                    | 0.5555                                    | 0.7510                                     | 0.7339                                     |
| 1.8069 | 21480 | 2.4067        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8220 | 21659 | 2.303         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8371 | 21838 | 1.8552        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8521 | 22017 | 2.1746        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8672 | 22196 | 2.0771        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8822 | 22375 | 2.339         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.8973 | 22554 | 2.0942        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9123 | 22733 | 2.3181        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9274 | 22912 | 2.3703        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9425 | 23091 | 2.4736        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9575 | 23270 | 2.6902        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9726 | 23449 | 2.2046        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 1.9876 | 23628 | 2.4463        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0028 | 23807 | 2.2212        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0178 | 23986 | 2.2298        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0329 | 24165 | 2.4247        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0479 | 24344 | 2.0451        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0630 | 24523 | 2.2404        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0781 | 24702 | 2.3939        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.0931 | 24881 | 2.0558        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1005 | 24969 | -             | 0.6300       | 0.6967       | 0.5741        | 0.5561        | 0.5425                                    | 0.5420                                    | 0.7484                                     | 0.7261                                     |
| 2.1082 | 25060 | 2.2546        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1232 | 25239 | 2.28          | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1383 | 25418 | 2.2238        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1533 | 25597 | 2.1565        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1684 | 25776 | 1.9775        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1835 | 25955 | 2.2428        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.1985 | 26134 | 2.0969        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2136 | 26313 | 2.3999        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2286 | 26492 | 2.4524        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2437 | 26671 | 2.319         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2587 | 26850 | 2.0698        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2738 | 27029 | 2.4082        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.2889 | 27208 | 2.4815        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3039 | 27387 | 2.3198        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3190 | 27566 | 2.413         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3340 | 27745 | 2.6617        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3491 | 27924 | 2.3676        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3641 | 28103 | 2.1355        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3792 | 28282 | 2.6304        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.3943 | 28461 | 2.274         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4006 | 28536 | -             | 0.6525       | 0.6612       | 0.5334        | 0.5171        | 0.5543                                    | 0.5561                                    | 0.7376                                     | 0.7215                                     |
| 2.4093 | 28640 | 2.3882        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4244 | 28819 | 2.3836        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4394 | 28998 | 2.5454        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4545 | 29177 | 2.2851        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4695 | 29356 | 2.2482        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4846 | 29535 | 2.3114        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.4997 | 29714 | 2.6511        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5147 | 29893 | 2.4293        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5298 | 30072 | 2.5897        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5448 | 30251 | 2.4804        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5599 | 30430 | 2.3792        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5749 | 30609 | 2.4037        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.5900 | 30788 | 2.2137        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6051 | 30967 | 2.755         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6201 | 31146 | 2.4339        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6352 | 31325 | 2.3045        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6502 | 31504 | 2.1352        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6653 | 31683 | 2.4401        | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6803 | 31862 | 2.481         | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.6954 | 32041 | 2.55          | -            | -            | -             | -             | -                                         | -                                         | -                                          | -                                          |
| 2.7006 | 32103 | -             | 0.5987       | 0.6102       | 0.4596        | 0.5642        | 0.5583                                    | 0.5583                                    | 0.7329                                     | 0.7177                                     |

</details>

### Framework Versions
- Python: 3.11.10
- Sentence Transformers: 3.3.0
- Transformers: 4.46.3
- PyTorch: 2.5.1+cu124
- Accelerate: 1.1.1
- Datasets: 3.1.0
- Tokenizers: 0.20.3

## Citation

### BibTeX

#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
```

<!--
## Glossary

*Clearly define terms in order to be accessible across audiences.*
-->

<!--
## Model Card Authors

*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->

<!--
## Model Card Contact

*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->