SentenceTransformer based on BAAI/bge-m3

This is a sentence-transformers model finetuned from BAAI/bge-m3. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: BAAI/bge-m3
Maximum Sequence Length: 8192 tokens
Output Dimensionality: 1024 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 1024, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    '후측방 충돌방지 보조 기능이 제대로 작동하지 않는 상황이나 제한 사항에는 어떤 것들이 있나요?',
    '후측방 충돌방지 보조 작동\n후측방 충돌방지 보조는 다음의 동작으로 경고\n하고 제어합니다.\n• 충돌 경고\n• 충돌방지 보조(출차)   \n\n   충돌 경고\n후방 좌우 차로에 차량이 인식되면 사이드 미러\n(실외 미러), 클러스터와 HUD(사양 적용 시)에\n경고등이 표시됩니다.\n차량 인식은 다음의 조건에서 작동합니다.\n• 자차 속도: 20 km/h 이상\n• 후측방 차량 속도: 10 km/h 이상\n차량 인식 상태에서 후측방 차량이 있는 방향으\n로 차로변경을 위해 방향지시등을 켜면 충돌 경\n고가 작동합니다.\n• 사이드 미러(실외 미러), 클러스터 및 HUD(\n사양 적용 시) 경고등, 경고음, 스티어링 휠\n진동(사양 적용 시)해 후측방 충돌 경고를 알\n립니다.\n• 방향지시등을 끄거나 차선과 멀어지면 충돌\n경고는 취소되고 차량 인식 상태로 돌아갑니\n다.\n• 후측방 레이더의 인식 영역은 일반 도로의\n표준 도로 폭에 따라 결정됩니다. 폭이 좁은\n도로에서는 옆 옆 차로에서 주행 중인 차량\n에 대해 경고할 수 있습니다. 반대로, 폭이 넓\n은 도로에서는 옆 차로에서 주행 중인 차량\n을 인식하지 못하여 경고하지 않을 수 있습\n니다.\n• 비상 경고등을 작동시킨 경우 방향지시등에\n의한 충돌 경고는 작동하지 않습니다.\n클러스터 사양 또는 테마에 따라 클러스터 표시\n창에 표시되는 이미지나 색상이 다를 수 있습니\n다.   \n\n   충돌방지 보조(출차)\n사이드 미러(실외 미러) 및 HUD(사양 적용 시)\n경고등, 경고문, 경고음, 스티어링 휠 진동(사\n양 적용 시)통해 충돌 경고를 알립니다. 후측방\n에서 접근하는 차량과 충돌하지 않도록 제동 제\n어를 도와줍니다.\n충돌방지 보조(출차)는 다음의 조건에서 작동\n합니다.\n• 자차 속도: 3 km/h 이하\n• 후측방 차량 속도: 5 km/h 이상\n충돌방지 보조에 의한 정차 시 클러스터 표시창\n에 경고문이 표시됩니다. 안전을 위해 즉시 브\n레이크 페달을 밟고 주변 상황을 확인하십시\n오.\n• 정차는 약 2초 동안 유지되며 이후 제동 제어\n가 종료됩니다.\n• 반드시 안전한 곳에 정차한 후 후측방 충돌\n방지 보조를 설정하십시오.\n• 다른 기능의 경고문이 표시되거나 경고음이\n울리는 동안에는 후측방 충돌방지 보조의 경\n고문이 표시되지 않거나 경고음이 울리지 않\n을 수 있습니다.\n• 차량 내/외부 소리로 인해 후측방 충돌방지\n보조의 경고음이 들리지 않을 수 있습니다.\n차량 내부 음량을 적절하게 조절하고 항상\n주의를 기울이십시오.\n• 충돌 위험 상황에서 브레이크 페달을 밟으면\n후측방 충돌방지 보조가 작동하지 않을 수\n있습니다.\n• 후측방 충돌방지 보조가 작동할 때 가속 페\n달을 과하게 밟거나 스티어링 휠을 급격히\n조작할 경우 제동 제어는 해제됩니다.\n• 후측방 충돌방지 보조 작동 시 탑승자 및 차\n량 내 물건이 움직여 다칠 수 있으므로 항상\n주의를 기울이고 반드시 전 좌석에서 안전\n벨트를 착용하십시오.\n• 후측방 충돌방지 보조에 이상이 있어도 브레\n이크 페달 조작에 의한 제동 기능은 정상적\n으로 작동합니다.\n• 후측방 충돌방지 보조는 모든 상황에서 작동\n하지 않으며, 작동하더라도 충돌을 피하지\n못할 수 있습니다.\n• 후측방 충돌방지 보조는 주위 상황 및 주행\n조건에 의해 경고를 늦게 하거나 하지 않을\n수도 있으므로 위험 상황에 대비하여 항상\n주위를 확인하십시오.\n• 차량 조작의 책임은 운전자에게 있습니다.\n후측방 충돌방지 보조에만 의존하여 위험하\n게 주행하지 마시고, 항상 주변 상황을 직접\n확인하고 안전 운전하십시오.\n• 절대 사람이나 사물을 대상으로 기능을 시험\n하지 마십시오. 심각한 부상이나 사망에 이\n를 수 있습니다.   \n\n   차체 자세 제어(ESC) 장치가 다음과 같은 상태\n인 경우 클러스터 표시창에 경고문이 표시되어\n도 제동 제어가 작동하지 않을 수 있습니다.\n• 차체 자세 제어(ESC) 장치 경고등이 켜진 경\n우\n• 차체 자세 제어(ESC) 장치가 다른 기능을 수\n행할 경우',
    '안전 하차 경고 이상 및 제한 사항   \n\n   기능 이상\n안전 하차 경고에 이상이 있으면 클러스터 표시\n창에 경고문이 일정시간 표시되며 통합 경고등\n이 켜집니다. 당사 직영 하이테크센터나 블\n루핸즈에서 점검을 받으십시오.\n• 경고 내용은 클러스터의 뷰 모드 중 유틸리\n티 정보 뷰의 서비스 메시지에서 확인할 수\n있습니다.\n사이드 미러(실외 미러) 경고등에 이상이 있으\n면 클러스터 표시창에 경고문이 일정시간 표시\n되며 통합 경고등이 켜집니다. 당사 직영 하\n이테크센터나 블루핸즈에서 점검을 받으십시\n오.   \n\n   인식 센서 가림\n후측방 레이더 또는 뒷범퍼 주변에 눈, 비 등 이\n물질이 묻거나, 트레일러, 캐리어 및 기타 장비\n를 거치하면 인식 성능이 저하되어 안전 하차\n경고가 일시적으로 제한되거나 작동하지 않을\n수 있습니다.\n이때 클러스터 표시창에 경고문이 표시되지만\n안전 하차 보조 고장이 아닙니다. 이물질을 제\n거하거나 트레일러, 캐리어, 또는 기타 장비를\n제거한 후 시동을 걸면 안전 하차 경고는 다시\n정상적으로 작동합니다. 항상 깨끗하게 유지하\n십시오.\n차량 후방 짐칸, 기타 장비 또는 이물질을 제거\n해도 안전 하차 경고가 정상적으로 작동하지 않\n으면 당사 직영 하이테크센터나 블루핸즈에서\n점검을 받으십시오.\n• 인식 센서 가림 경고 내용은 클러스터의 뷰\n모드 중 유틸리티 정보 뷰의 서비스 메시지\n에서 확인할 수 있습니다.\n• 인식 센서 경고문이 표시되지 않거나 경고등\n이 켜지지 않더라도 안전 하차 경고가 정상\n적으로 작동하지 않을 수 있습니다.\n• 시동을 건 직후에 인식 센서가 오염되었거나\n차량 주변에 물체가 존재하지 않는 경우(앞\n이 막힘 없이 트인 장소 등) 안전 하차 경고가\n정상적으로 작동하지 않을 수 있습니다.   \n\n   짐칸 및 기타 장비를 사용할 때는 안전 하차 경\n고를 끄십시오. 안전 하차 경고를 사용하려면\n짐칸 및 기타 장비를 제거하십시오.   \n\n   제한 사항\n다음과 같은 경우에는 안전 하차 경고가 제대로\n반응하지 않거나 예기치 않은 기능 작동이 발생\n할 수 있습니다. 주의하여 운전하십시오.\n• 나무나 풀이 무성한 곳에서 하차할 경우\n• 젖은 도로에서 하차할 경우\n• 상대 차량이 빠르게 또는 느리게 접근할 경우\n• 강한 전자파에 의해 안전 하차 경고가 순간\n적으로 해제될 수 있습니다.\n• 차량 시동 중 또는 후측방 레이더 초기화(재\n부팅 등) 중에는 약 3초 동안 기능이 작동하\n지 않을 수 있습니다.\n• 가림 및 고장 상태에서 시동을 껐다 다시 걸\n면 가림 및 고장 상태가 유지 되어서 안전 하\n차 경고가 정상적으로 작동하지 않을 수 있\n습니다.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 1024]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.0386
cosine_accuracy@3	0.6389
cosine_accuracy@5	0.7589
cosine_accuracy@10	0.8641
cosine_precision@1	0.0386
cosine_precision@3	0.213
cosine_precision@5	0.1518
cosine_precision@10	0.0864
cosine_recall@1	0.0386
cosine_recall@3	0.6389
cosine_recall@5	0.7589
cosine_recall@10	0.8641
cosine_ndcg@10	0.5028
cosine_mrr@10	0.3823
cosine_map@100	0.3873

Training Details

Training Dataset

Unnamed Dataset

Size: 1,210 training samples
Columns: sentence_0 and sentence_1
Approximate statistics based on the first 1000 samples:
sentence_0 sentence_1
type string string
details
min: 11 tokens
mean: 24.25 tokens
max: 47 tokens

min: 16 tokens
mean: 354.6 tokens
max: 2543 tokens

	sentence_0	sentence_1
type	string	string
details	min: 11 tokens mean: 24.25 tokens max: 47 tokens	min: 16 tokens mean: 354.6 tokens max: 2543 tokens

Samples:

sentence_0	sentence_1
`자기 인증 라벨은 어떤 법령에 맞게 차량이 제작되었음을 나타내나요?`	`자기 인증 라벨은 차량이 대한민국 자동차 관리 법령에 맞게 제작되었음을 나타냅니다.`
`연료 주입구 캡을 열 때 주의해야 할 점은 무엇인가요?`	연료 주입구 캡을 열 때는 연료에 압력이 가해 져 있을 수 있으므로 항상 조심스럽게 천천히 분리하십시오. 캡에서 연료가 새거나 바람 빠 지는 소리가 들리면 캡을 완전히 분리하기 전에 이런 상황이 멈출 때까지 기다리십시오. 그렇 지 않을 경우 연료가 분출되어 심각한 상해를 입을 수 있습니다. 또한, 자동차 연료는 인화성 물질로서 화재 및 폭발의 위험이 있습니다. 주 유할 때는 반드시 다음 사항에 유의하십시오. • 연료 주유기 또는 연료 주입구 캡 등을 만지 거나 열 경우, 먼저 연료 주입구에서 가능한 한 먼 곳에 있는 금속부에 맨손을 접촉시켜 정전기를 없애십시오. • 주유소 근처에서는 주유 중에 차 안에 들어 가는 등 정전기가 발생할 수 있는 행동을 삼 가십시오. 정전기로 인해 기화된 연료에 불 이 붙어 폭발할 수도 있습니다. 만약 차 안에 다시 들어갔다 나온 경우, 주유기나 연료 주 입구 캡 등을 만지기 전에 주유구에서 먼 곳 에 있는 금속부에 맨손을 접촉시켜 정전기를 없애십시오. • 휴대 용기를 이용할 때에는 용기를 반드시 지면에 내려놓은 후 주유하십시오. 차량 안 또는 위에 휴대 용기를 두고 주유하면 정전 기가 발생하여 기화된 연료에 불이 붙을 수 도 있습니다. 주유가 완전히 끝날 때까지 휴 대 용기를 지면에 놓아 주십시오. • 주유소 부근에서 휴대 전화를 사용하지 마십 시오. 휴대 전화의 전류나 전자파로 인해 기 화된 연료에 불이 붙을 수도 있습니다. 휴대 전화를 사용해야 할 때는 주유소에서 멀리 떨어진 장소에서 사용하십시오. 주유하기 전에 반드시 엔진을 끄십시오. 엔진 의 전기장치에 의한 스파크로 인해 기화된 연료 에 불이 붙을 수도 있습니다. 주유하기 전에 엔 진을 끄고, 주유가 끝난 뒤에는 연료 주입구 캡 을 완전히 잠그고, 주입구 커버를 닫은 후 시동 을 거십시오. • 주유소 근처에서 담배를 피우거나 라이터를 켜는 등 화재의 위험이 있는 행동을 삼가십 시오. 자동차 연료는 인화성 물질이므로 불 꽃에 의해 폭발할 수도 있습니다. • 만약...
`차량의 전기 장치가 작동하지 않을 때 우선적으로 점검해야 할 부분은 무엇인가요?`	퓨즈 교체 블레이드 타입 카트리지 타입 멀티 타입 차량의 전기 장치는 전기 과부하를 방지하기 위 해 퓨즈가 설치되어 있으므로 전기 장치가 작동 하지 않으면 우선 퓨즈 단선 여부를 점검하십시 오. 퓨즈가 단선되었다면 그 퓨즈가 보호하는 모든 전기 장치는 작동하지 않으니 퓨즈를 교체하십 시오. 반드시 규정된 용량의 퓨즈만을 사용하십시오. 퓨즈는 실내 및 엔진룸의 퓨즈박스에 분할 설치 되어 있으므로, 각 박스의 퓨즈 라벨을 확인하 여 작동하지 않는 장치의 퓨즈 위치를 확인하십 시오. • 퓨즈를 제거하기 위해 드라이버나 금속물체 를 이용하지 마십시오. 합선 등으로 인해 전 기 장치에 큰 손상을 입힐 수 있습니다. • 퓨즈 교체 후에도 계속 퓨즈가 단선되면 전 기 장치의 다른 과부하가 있으니 당사 직영 하이테크센터나 블루핸즈에서 정비를 받으 십시오. • 규격에 맞지 않는 퓨즈, 철사, 구리선, 은박지 등을 사용하면 전기 장치에 과부하가 걸려 관련 전기 장치가 손상되거나 화재가 날 수 있습니다. • 퓨즈를 교체하려면 안전한 장소에서 시동을 끈 후, 모든 전기 장치의 스위치를 끄고 배터 리의 - 단자를 분리한 상태에서 교체하십시 오. • 교체한 퓨즈 또는 릴레이가 완전히 꽂혀 있 는지 확인하십시오. 불완전하게 꽂혀 있으면 접촉 불량으로 인해 전기 장치 또는 배선이 손상되거나 화재가 날 수 있습니다. • 퓨즈 또는 릴레이를 꽂는 터미널에 드라이버 나 임의 개조용 배선을 꽂지 마십시오. 접촉 불량으로 고장 날 수 있습니다. • 차량의 전기 배선을 추가 또는 임의로 변경 하지 마십시오. • 동일한 용량의 퓨즈로만 교체하십시오. 높은 용량의 퓨즈로 교체하면 전기 배선이 손상되 거나 화재가 날 수 있습니다. 퓨즈 라벨 표기 정보 사양에 따라 퓨즈 라벨에 표기된 전장품이 장착 되지 않을 수 있습니다.

Loss: MultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim"
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 5
per_device_eval_batch_size: 5
num_train_epochs: 50
fp16: True
multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 5
per_device_eval_batch_size: 5
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1
num_train_epochs: 50
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.0
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: False
fp16: True
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: round_robin

Training Logs