SentenceTransformer based on BAAI/bge-m3

This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: BAAI/bge-m3
Maximum Sequence Length: 8192 tokens
Output Dimensionality: 1024 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    '스마트 키 감지 기능이 작동할 때 무선 충전에 어떤 영향이 있을 수 있습니까?',
    '무선 충전 주의사항 추가2: • 휴대 전화에 액세서리 커버를 끼운 상태로 충전하면 충전 속도가 느려지거나 충전되지 않을 수 있습니다. • 스마트 키 감지 기능(도어 열림, 도어 닫힘 등)이 작동할 때 일시적으로 충전이 중단될 수 있습니다. • 일부 휴대폰은 자체 보호 기능에 의해 무선 충전 속도가 느려지거나 충전이 중단될 수 있습니다.',
    "차로 유지 보조 (LFA) 전방 차선 및 차량을 인식하여 차로 중앙을 유지하며 주행하도록 도와줍니다. i 알아두기 LFA는 Lane Following Assist의 약자입니다. 인식 센서 ① : 전방 카메라 전방 차선 및 차량을 인식하기 위해 전방 카메라를 인식 센서로 사용합니다. 차로 유지 보조 설정 기능 설정 차로 유지 보조 켜기 및 끄기 시동 ‘ON’ 상태에서 차로 주행 보조 버튼을 누르면 차로 유지 보조가 켜지고 계기판에 회색 또는 초록색 작동등 이 표시됩니다. 차로 유지 보조가 켜진 상태에서 차로 주행 보조 버튼을 누르면 기능이 꺼집니다. 경고 방식 시동 'ON' 상태에서 계기판의 사용자 설정 → 운전자 보조 → 경고 음량 또는 인포테인먼트 시스템의 설정 → 차량 → 운전자 보조 → 경고 방식 → 경고 음량에서 변경할 수 있습니다. 인포테인먼트 시스템의 설정 → 차량 → 운전자 보조 → 경고 방식 → 주행 안전 우선을 설정하면 안전한 주행을 위해 경고음 발생 시 오디오 음량을 줄입니다. i 알아두기 • 경고 방식을 변경하면 다른 운전자 보조 시스템의 경고 방식도 같이 변경될 수 있습니다. 고려하여 변경하십시오. • 시동을 껐다가 걸어도 경고 음량 설정은 유지됩니다. • 경고 음량을 0 또는 끄기를 선택해도 경고음은 꺼지지 않고 1 또는 작게로 설정했을 때의 음량으로 울립니다.(사양 적용 시) • 차량 사양에 따라 설정 메뉴가 없을 수 있습니다. 차로 유지 보조 작동 기능 경고 및 제어 차로 유지 보조 양쪽 차선 또는 선행 차량을 인식하고 자차의 속도가 200 km/h 이하인 경우, 계기판 등에 초록색 작동등 이 켜지고 조향을 보조하여 차로 중앙을 유지하도록 도와줍니다. 주의 조향을 보조하지 않을 경우에는 작동등 이 흰색으로 깜빡인 후 회색으로 바뀝니다. 핸즈오프 경고 운전자가 스티어링 휠을 일정 시간 동안 잡지 않을 경우, 단계적으로 핸즈오프 경고문이 표시되고 경고음이 울립니다. 1단계: 경고문 2단계: 경고문 (빨간색 스티어링 휠) + 경고음 계속해서 스티어링 휠을 잡지 않을 경우, 차로 유지 보조가 자동으로 꺼집니다. 경고 • 차로 유지 보조 작동 중 스티어링 휠을 고정하거나 일정 수준 이상으로 조작할 경우 조향을 보조하지 않을 수 있습니다. • 차로 유지 보조는 모든 상황에서 작동하지는 않습니다. 따라서, 주행 중 반드시 스티어링 휠을 잡고 주행하십시오. • 주행 상황에 따라 핸즈오프 경고문이 늦게 표시될 수 있습니다. 항상 스티어링 휠을 잡고 주행하시기 바랍니다. • 스티어링 휠을 약하게 잡을 경우 스티어링 휠을 잡고 있지 않은 것으로 판단하여 핸즈오프 경고문이 표시될 수 있습니다. • 스티어링 휠에 물체를 붙일 경우 핸즈오프 경고문이 정상적으로 표시되지 않을 수 있습니다. 알아두기 • 차선이 인식된 경우, 계기판에 차선 색상이 회색에서 흰색으로 바뀝니다. • 계기판 사양 또는 테마에 따라 이미지나 색상이 다르게 표시될 수 있습니다. • 차선이 인식되지 않은 경우, 선행 차량의 존재 여부와 선행 차량의 주행 상태에 따라 제한적으로 조향을 보조할 수 있습니다. • 차로 유지 보조가 작동 중이더라도 운전자가 스티어링 휠을 조작하여 조향할 수 있습니다. • 차로 유지 보조가 조향을 보조할 때는 스티어링 휠이 무겁거나 가볍게 느껴질 수 있습니다. 차로 유지 보조 이상 및 제한 사항 기능 이상 차로 유지 보조에 이상이 있으면 계기판에 경고문이 일정 시간 표시되며 통합 경고등 이 켜집니다. 경고가 표시되면 당사 직영 하이테크센터나 블루핸즈에서 점검을 받으십시오. 경고 • 최대 허용 하중을 초과하는 화물 적재 또는 화물 적재함 한곳에 집중하여 적재한 경우 차량의 주행 안정성 저하가 발생할 수 있으며 이로 인하여 차로 유지 보조의 성능 저하가 발생할 수 있습니다.",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.0289
cosine_accuracy@3	0.7992
cosine_accuracy@5	0.9091
cosine_accuracy@10	0.9661
cosine_precision@1	0.0289
cosine_precision@3	0.2664
cosine_precision@5	0.1818
cosine_precision@10	0.0966
cosine_recall@1	0.0289
cosine_recall@3	0.7992
cosine_recall@5	0.9091
cosine_recall@10	0.9661
cosine_ndcg@10	0.5807
cosine_mrr@10	0.449
cosine_map@100	0.4509

Training Details

Training Dataset

Unnamed Dataset

Size: 1,634 training samples
Columns: sentence_0 and sentence_1
Approximate statistics based on the first 1000 samples:
sentence_0 sentence_1
type string string
details
min: 9 tokens
mean: 23.93 tokens
max: 58 tokens

min: 14 tokens
mean: 204.23 tokens
max: 2889 tokens

	sentence_0	sentence_1
type	string	string
details	min: 9 tokens mean: 23.93 tokens max: 58 tokens	min: 14 tokens mean: 204.23 tokens max: 2889 tokens

Samples:

sentence_0	sentence_1
`차량의 용접 작업을 받을 수 있는 장소는 어디인가요?`	`• 차량의 용접 작업은 당사 직영 하이테크센터나 블루핸즈에서 받으십시오. 용접 작업을 할 때는 에어백 모듈의 각 커넥터 및 배터리에서 - 단자가 분리되어야 합니다. 분리되지 않으면 용접 시 과전압이 발생해 에어백 모듈이 손상될 수 있습니다.`
`예열 표시등이 계속 켜진 상태로 주행할 경우 발생할 수 있는 문제는 무엇인가요?`	`주의: 충분한 예열 시간(최대 10초)이 지났는데도 예열 표시등이 꺼지지 않으면 예열 관련 전기 이상 또는 엔진 제어 장치 고장일 수 있습니다. 예열 표시등이 켜진 상태로 계속 주행하면 운전 성능이 저하되고 배기 계통이 손상될 수 있으므로 즉시 당사 직영 하이테크센터나 블루핸즈에서 점검을 받으십시오.`
`대한민국 자동차 관리 법령에 따라 제작된 차량에 부착되는 라벨은 무엇인가요?`	`자기 인증 라벨: 자기 인증 라벨은 차량이 대한민국 자동차 관리 법령에 맞게 제작되었음을 나타냅니다.`

Loss: MultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim"
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 5
per_device_eval_batch_size: 5
num_train_epochs: 10
fp16: True
multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 5
per_device_eval_batch_size: 5
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1
num_train_epochs: 10
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.0
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: False
fp16: True
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: round_robin

Training Logs

Epoch	Step	Training Loss	cosine_ndcg@10
0.1529	50	-	0.5760
0.3058	100	-	0.5780
0.4587	150	-	0.5747
0.6116	200	-	0.5664
0.7645	250	-	0.5837
0.9174	300	-	0.5717
1.0	327	-	0.5811
1.0703	350	-	0.5759
1.2232	400	-	0.5828
1.3761	450	-	0.5796
1.5291	500	0.0244	0.5763
1.6820	550	-	0.5775
1.8349	600	-	0.5654
1.9878	650	-	0.5792
2.0	654	-	0.5774
2.1407	700	-	0.5771
2.2936	750	-	0.5742
2.4465	800	-	0.5722
2.5994	850	-	0.5721
2.7523	900	-	0.5721
2.9052	950	-	0.5710
3.0	981	-	0.5763
3.0581	1000	0.0147	0.5774
3.2110	1050	-	0.5796
3.3639	1100	-	0.5755
3.5168	1150	-	0.5758
3.6697	1200	-	0.5748
3.8226	1250	-	0.5766
3.9755	1300	-	0.5736
4.0	1308	-	0.5739
4.1284	1350	-	0.5760
4.2813	1400	-	0.5779
4.4343	1450	-	0.5810
4.5872	1500	0.005	0.5849
4.7401	1550	-	0.5794
4.8930	1600	-	0.5725
5.0	1635	-	0.5797
5.0459	1650	-	0.5821
5.1988	1700	-	0.5823
5.3517	1750	-	0.5791
5.5046	1800	-	0.5773
5.6575	1850	-	0.5804
5.8104	1900	-	0.5775
5.9633	1950	-	0.5773
6.0	1962	-	0.5760
6.1162	2000	0.0063	0.5810
6.2691	2050	-	0.5794
6.4220	2100	-	0.5792
6.5749	2150	-	0.5819
6.7278	2200	-	0.5804
6.8807	2250	-	0.5804
7.0	2289	-	0.5810
7.0336	2300	-	0.5804
7.1865	2350	-	0.5835
7.3394	2400	-	0.5820
7.4924	2450	-	0.5778
7.6453	2500	0.0065	0.5788
7.7982	2550	-	0.5756
7.9511	2600	-	0.5774
8.0	2616	-	0.5772
8.1040	2650	-	0.5790
8.2569	2700	-	0.5806
8.4098	2750	-	0.5781
8.5627	2800	-	0.5791
8.7156	2850	-	0.5822
8.8685	2900	-	0.5811
9.0	2943	-	0.5818
9.0214	2950	-	0.5814
9.1743	3000	0.0042	0.5800
9.3272	3050	-	0.5806
9.4801	3100	-	0.5810
9.6330	3150	-	0.5802
9.7859	3200	-	0.5810
9.9388	3250	-	0.5809
10.0	3270	-	0.5807

Framework Versions

Python: 3.10.12
Sentence Transformers: 4.1.0
Transformers: 4.52.3
PyTorch: 2.7.0+cu126
Accelerate: 1.7.0
Datasets: 3.6.0
Tokenizers: 0.21.1

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}

JLee0
/

rag-embedder-staria-10epochs