sentence-transformers safetensors bert sentence-similarity feature-extraction generated_from_trainer dataset_size:550000 loss:MultipleNegativesRankingLoss ar arxiv:1908.10084 arxiv:1705.00652 base_model:aubmindlab/bert-base-arabertv02 base_model:finetune:aubmindlab/bert-base-arabertv02 license:apache-2.0 model-index autotrain_compatible text-embeddings-inference endpoints_compatible region:us
---
base_model: aubmindlab/bert-base-arabertv02
language:
- ar
library_name: sentence-transformers
license: apache-2.0
metrics:
- cosine_accuracy
- dot_accuracy
- manhattan_accuracy
- euclidean_accuracy
- max_accuracy
pipeline_tag: sentence-similarity
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:550000
- loss:MultipleNegativesRankingLoss
widget:
- source_sentence: ما هو متوسط ​​مزايا الضمان الاجتماعي
  sentences:
  - الغرض الرئيسي من الدورة الشهرية هو تحضير الجسد الأنثوي للتكاثر أو الحمل. خلال
    هذا الوقت ، يتم تخصيب بويضة جديدة. إذا لم تكن المرأة حاملاً ، فسوف يسفك الرحم.
  - ما هو معدل الاستحقاق الشهري للعامل المتقاعد؟ متوسط ​​استحقاق تقاعد الضمان الاجتماعي
    الشهري لشهر يناير 2016 هو 1،341 دولارًا. المبلغ يتغير شهريا. عندما تكون جاهزًا
    للتقدم بطلب للحصول على مزايا التقاعد ، استخدم تطبيق التقاعد عبر الإنترنت ، وهو
    الطريقة الأسرع والأسهل والأكثر ملاءمة للتقدم. معلومات اكثر. حقائق أساسية عن الضمان
    الاجتماعي.
  - لإعطائك فكرة عما قد تتلقاه ، لعام 2015 ، يبلغ متوسط ​​مبلغ مخصصات SSDI 1165 دولارًا
    أمريكيًا في الشهر ، ولكن يمكنك الحصول على ما يصل إلى 2663 دولارًا أمريكيًا ، إذا
    كنت مهتمًا بكيفية حساب الضمان الاجتماعي لـ AIME و PIA ، فإليك الطريقة . كم ستعتمد
    إعانة إعاقة الضمان الاجتماعي على أرباحك المغطاة - الأجور التي دفعت عليها ضرائب
    الضمان الاجتماعي - قبل أن تصبح معاقًا.
- source_sentence: ما هو الراتب الابتدائي لمن يلتحق بالجيش
  sentences:
  - كان الراتب المبدئي لجندي في الجيش الأمريكي بدرجة رواتب E-1 هو 1،491 دولارًا شهريًا
    اعتبارًا من السنة المالية 2012 ، وفقًا لموقع ArmyTimes.com. جندي برتبة أجر E-4
    وله أكثر من أربع سنوات في الخدمة تلقى 2،266.50 دولارًا شهريًا. الجندي الأعلى رتبة
    في الجيش الأمريكي هو الرقيب الرائد ، الذي يحمل رتبة أجر من E-9. كان الراتب الأساسي
    الشهري للجندي بدرجة رواتب E-9 مع 20 عامًا في الخدمة هو 5،523.60 دولارًا.
  - 17 التعليقات. Meclizine هو الاسم العام للدواء المسمى Antivert والأدوية التي لا
    تستلزم وصفة طبية (OTC) المعروفة باسم Dramamine و Bonine. يستخدم ميكليزين لعلاج
    دوار الحركة والدوخة. ينتمي الدواء إلى فئة من العقاقير تسمى مضادات الهيستامين ،
    والتي تستخدم بشكل عام لعلاج الحساسية ، ومع ذلك ، يعمل الميكليزين بشكل مختلف قليلاً
    ، حيث يقلل من الغثيان وتشنجات العضلات ، ويستخدم عقار كليزين لعلاج دوار الحركة
    والدوخة. ينتمي الدواء إلى فئة من العقاقير تسمى مضادات الهيستامين ، والتي تستخدم
    بشكل عام لعلاج الحساسية.
  - تأسيس حزمة الراتب الخاص بك. جنود الخدمة الفعلية وجنود الاحتياط في الجيش النشطين
    يكسبون رواتب الجيش الأساسية. الراتب الأساسي هو راتبك الأساسي كجندي في الخدمة الفعلية
    ويتم احتسابه فقط كجزء من إجمالي دخلك ، ويتم توزيعه في اليوم الأول والخامس عشر
    من كل شهر ، على غرار العديد من الوظائف المدنية. جنود الخدمة الفعلية وجنود الاحتياط
    في الجيش النشطين يكسبون رواتب الجيش الأساسية. الراتب الأساسي هو راتبك الأساسي
    كجندي في الخدمة الفعلية وهو يُحتسب فقط كجزء من إجمالي دخلك.
- source_sentence: إدانة والد جاريد كوشنر
  sentences:
  - تم تعيين صهر دونالد ترامب جاريد كوشنر `` مستشارًا كبيرًا للرئيس '' يوم الاثنين
    وكان كوشنر فعالًا في حملة ترامب وأشار إلى أنه يخطط للانتقال إلى واشنطن والعمل
    لصالح الرئيس المنتخب.
  - تشارلز كوشنر. تشارلز كوشنر (من مواليد 16 مايو 1954) هو مطور عقاري أمريكي ومجرم
    مدان. أسس شركات كوشنر في عام 1985. وفي عام 2005 ، أدين بالمساهمات غير القانونية
    في الحملة ، والتهرب الضريبي ، والتلاعب بالشهود ، وقضى فترة في السجن الفيدرالي.
    بعد إطلاق سراحه ، استأنف مسيرته المهنية في مجال العقارات.
  - '191 متابع. ج: بشكل عام ، يجب إصلاح الفتق المعرضة لخطر حدوث مضاعفات ، أو التي
    تسبب الألم ، أو التي تحد من النشاط. إذا لم يتم إصلاحها ، فهناك خطر من أن عملية
    جراحية طارئة قد تكون مطلوبة في وقت لاحق. في بعض الأحيان ، يمكن السيطرة على الفتق
    مؤقتًا عن طريق ارتداء جهاز يشبه الحزام يطبق ضغطًا خارجيًا ، مما يدفع الأنسجة مرة
    أخرى إلى البطن ويحملها هناك ، وهذا الجهاز يسمى الجمالون ، وفي بعض الأحيان ، يمكن
    التحكم في الفتق مؤقتًا عن طريق ارتداء جهاز يشبه الحزام يطبق ضغطًا خارجيًا ، والذي
    يدفع الأنسجة مرة أخرى إلى البطن ويثبتها هناك. هذا الجهاز يسمى الجمالون.'
- source_sentence: لماذا اتسعت الاقدام؟
  sentences:
  - لأن الجمال تمشي لمسافات طويلة للعثور على الماء ، إذا كانت أقدامها واسعة فإنها
    تجد أنه من الأسهل أن تمشي لمسافات طويلة. كما أن الأرجل العريضة تساعد الجمل على
    عدم الغرق في الرمال العميقة.
  - دليل لزراعة نبات الخشخاش المائي. كان خشخاش الأفيون ، Papaver somniferum ، يزرعه
    الإنسان منذ عصور ما قبل التاريخ. تنمو اليوم P. ​​somniferum في الحدائق والبراري
    في معظم أنحاء العالم ، بما في ذلك الولايات المتحدة وأوروبا. لا يكاد يوجد سوبر
    ماركت في العالم لا يبيع بذوره. دليل لزراعة نبات الخشخاش المائي. كان خشخاش الأفيون
    ، Papaver somniferum ، يزرعه الإنسان منذ عصور ما قبل التاريخ. تنمو اليوم P. ​​somniferum
    في الحدائق والبراري في معظم أنحاء العالم ، بما في ذلك الولايات المتحدة وأوروبا.
    لا يكاد يوجد سوبر ماركت في العالم لا يبيع بذوره.
  - نشأت الجمال من أمريكا الشمالية. تشير الأدلة الأحفورية إلى أن كاميلوبس ، رائد الجمل
    الحديث ، ظهر في الحي الذي كان يعيش فيه قبل 2.5 مليون سنة ، وقد انتقلت هذه الحيوانات
    من الأمريكتين منذ 10000 عام ، لكن أقاربها هاجروا إلى آسيا ثم أفريقيا ، حيث بقوا
    على قيد الحياة. اليوم ، هذه هي الإبل الحقيقية ، الدروماري والبكتريا. نحن نعلم
    أيضًا أن الإبل في أمريكا الجنوبية ، بما في ذلك اللاما ، والألبكة ، وغواناكو ،
    وفيكونا ، فيكو ، نشأت من. يمكن العثور على روابط Camelops للمزيد. معلومة
- source_sentence: هل توجد مخازن في الجهاز الهضمي
  sentences:
  - كازينو - لعبة ورق يتم فيها أخذ البطاقات على الطاولة وبطاقات مؤهلة في اليد. كاسينو.
    لعبة الورق ، البطاقات - لعبة تلعب بأوراق اللعب. الكازينو الملكي - أحد أشكال الكازينو
    حيث تحتوي بطاقات الوجه على قيم نقاط إضافية. كازينو الأشياء بأسمائها الحقيقية -
    أحد أشكال الكازينو حيث تكون قيمة البستوني نقطة واحدة.
  - بي دي إف. نص. أصلي. الإنسان كائن معقد لأن الإنسان يتكون من تريليونات من الخلايا
    والكثير من الأجهزة والأعضاء ، ومن بعض الأجهزة الرئيسية أجهزة الدورة الدموية والجهاز
    الهيكلي والجهاز الهضمي والجهاز العصبي والجهاز التنفسي. نص. أصلي. الإنسان كائن
    حي معقد لأن الإنسان يتكون من تريليونات من الخلايا والكثير من الأجهزة والأعضاء
    ، ومن بعض الأجهزة الرئيسية أجهزة الدورة الدموية والجهاز الهيكلي والجهاز الهضمي
    والجهاز العصبي والجهاز التنفسي.
  - '1 إطلاق الماء والأحماض والإنزيمات والمخازن بواسطة الجهاز الهضمي والأعضاء الملحقة
    في تجويف الجهاز الهضمي. 2 الامتصاص. 3 حركة الجزيئات العضوية الصغيرة ، والإلكتروليتات
    ، والفيتامينات ، والمياه عبر ظهارة الجهاز الهضمي وإلى الدم والجهاز الليمفاوي والجهاز
    الهضمي (وتسمى أيضًا القناة الهضمية أو الجهاز الهضمي). 1 الجهاز الهضمي عبارة عن
    أنبوب مستمر يمتد من الفم إلى فتحة الشرج. 2 ويشمل الأعضاء التالية: 3 فم. 4 بلعوم.
    5 مريء. 6 بطن. 7 ـ الأمعاء الدقيقة. 8 الأمعاء الغليظة.'
model-index:
- name: BERT base trained on Arabic NLI triplets
  results:
  - task:
      type: triplet
      name: Triplet
    dataset:
      name: ar nli dev
      type: ar-nli-dev
    metrics:
    - type: cosine_accuracy
      value: 0.738
      name: Cosine Accuracy
    - type: dot_accuracy
      value: 0.295
      name: Dot Accuracy
    - type: manhattan_accuracy
      value: 0.763
      name: Manhattan Accuracy
    - type: euclidean_accuracy
      value: 0.708
      name: Euclidean Accuracy
    - type: max_accuracy
      value: 0.763
      name: Max Accuracy
---

# BERT base trained on Arabic NLI triplets

This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [aubmindlab/bert-base-arabertv02](https://huggingface.co/aubmindlab/bert-base-arabertv02). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

## Model Details

### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [aubmindlab/bert-base-arabertv02](https://huggingface.co/aubmindlab/bert-base-arabertv02) <!-- at revision 016fb9d6768f522a59c6e0d2d5d5d43a4e1bff60 -->
- **Maximum Sequence Length:** 512 tokens
- **Output Dimensionality:** 768 tokens
- **Similarity Function:** Cosine Similarity
<!-- - **Training Dataset:** Unknown -->
- **Language:** ar
- **License:** apache-2.0

### Model Sources

- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)

### Full Model Architecture

```
SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)
```

## Usage

### Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

```bash
pip install -U sentence-transformers
```

Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'هل توجد مخازن في الجهاز الهضمي',
    '1 إطلاق الماء والأحماض والإنزيمات والمخازن بواسطة الجهاز الهضمي والأعضاء الملحقة في تجويف الجهاز الهضمي. 2 الامتصاص. 3 حركة الجزيئات العضوية الصغيرة ، والإلكتروليتات ، والفيتامينات ، والمياه عبر ظهارة الجهاز الهضمي وإلى الدم والجهاز الليمفاوي والجهاز الهضمي (وتسمى أيضًا القناة الهضمية أو الجهاز الهضمي). 1 الجهاز الهضمي عبارة عن أنبوب مستمر يمتد من الفم إلى فتحة الشرج. 2 ويشمل الأعضاء التالية: 3 فم. 4 بلعوم. 5 مريء. 6 بطن. 7 ـ الأمعاء الدقيقة. 8 الأمعاء الغليظة.',
    'بي دي إف. نص. أصلي. الإنسان كائن معقد لأن الإنسان يتكون من تريليونات من الخلايا والكثير من الأجهزة والأعضاء ، ومن بعض الأجهزة الرئيسية أجهزة الدورة الدموية والجهاز الهيكلي والجهاز الهضمي والجهاز العصبي والجهاز التنفسي. نص. أصلي. الإنسان كائن حي معقد لأن الإنسان يتكون من تريليونات من الخلايا والكثير من الأجهزة والأعضاء ، ومن بعض الأجهزة الرئيسية أجهزة الدورة الدموية والجهاز الهيكلي والجهاز الهضمي والجهاز العصبي والجهاز التنفسي.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```

<!--
### Direct Usage (Transformers)

<details><summary>Click to see the direct usage in Transformers</summary>

</details>
-->

<!--
### Downstream Usage (Sentence Transformers)

You can finetune this model on your own dataset.

<details><summary>Click to expand</summary>

</details>
-->

<!--
### Out-of-Scope Use

*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->

## Evaluation

### Metrics

#### Triplet
* Dataset: `ar-nli-dev`
* Evaluated with [<code>TripletEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.TripletEvaluator)

| Metric             | Value     |
|:-------------------|:----------|
| cosine_accuracy    | 0.738     |
| dot_accuracy       | 0.295     |
| manhattan_accuracy | 0.763     |
| euclidean_accuracy | 0.708     |
| **max_accuracy**   | **0.763** |

<!--
## Bias, Risks and Limitations

*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->

<!--
### Recommendations

*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->

## Training Details

### Training Hyperparameters
#### Non-Default Hyperparameters

- `eval_strategy`: steps
- `per_device_train_batch_size`: 16
- `per_device_eval_batch_size`: 16
- `learning_rate`: 2e-05
- `num_train_epochs`: 1
- `warmup_ratio`: 0.1
- `fp16`: True
- `batch_sampler`: no_duplicates

#### All Hyperparameters
<details><summary>Click to expand</summary>

- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: steps
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 16
- `per_device_eval_batch_size`: 16
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 2e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 1
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.1
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: False
- `fp16`: True
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: None
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: False
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: False
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: False
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`: 
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `eval_use_gather_object`: False
- `batch_sampler`: no_duplicates
- `multi_dataset_batch_sampler`: proportional

</details>

### Training Logs
| Epoch  | Step | Training Loss | ar-nli-dev_max_accuracy |
|:------:|:----:|:-------------:|:-----------------------:|
| 0      | 0    | -             | 0.763                   |
| 0.0640 | 100  | 1.2212        | -                       |
| 0.1280 | 200  | 0.4768        | -                       |
| 0.1919 | 300  | 0.4315        | -                       |
| 0.2559 | 400  | 0.3696        | -                       |
| 0.3199 | 500  | 0.3762        | -                       |
| 0.3839 | 600  | 0.327         | -                       |
| 0.4479 | 700  | 0.3332        | -                       |
| 0.5118 | 800  | 0.3227        | -                       |
| 0.5758 | 900  | 0.3311        | -                       |
| 0.6398 | 1000 | 0.2997        | -                       |
| 0.7038 | 1100 | 0.2991        | -                       |
| 0.7678 | 1200 | 0.2823        | -                       |
| 0.8317 | 1300 | 0.2663        | -                       |
| 0.8957 | 1400 | 0.2776        | -                       |
| 0.9597 | 1500 | 0.2651        | -                       |


### Framework Versions
- Python: 3.10.14
- Sentence Transformers: 3.1.1
- Transformers: 4.44.2
- PyTorch: 2.4.0
- Accelerate: 0.34.2
- Datasets: 3.0.0
- Tokenizers: 0.19.1

## Citation

### BibTeX

#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}
```

#### MultipleNegativesRankingLoss
```bibtex
@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}
```

<!--
## Glossary

*Clearly define terms in order to be accessible across audiences.*
-->

<!--
## Model Card Authors

*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->

<!--
## Model Card Contact

*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
-->