tycjan/distilbert-pl-store-products-retrieval

SentenceTransformer based on sentence-transformers/quora-distilbert-multilingual

This is a sentence-transformers model finetuned from sentence-transformers/quora-distilbert-multilingual on the product-query-retrieval-dataset dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: sentence-transformers/quora-distilbert-multilingual
• Maximum Sequence Length: 128 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity
• Training Dataset:
  • product-query-retrieval-dataset

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: DistilBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("tycjan/distilbert-pl-store-products-retrieval")
# Run inference
sentences = [
    'szukam termosu stalowego tadar 0,5 l do kawy i herbaty online',
    'Stalowy termos do kawy i herbaty Tadar 0,5 L Cechy produktu: Zastosowanie podwójnych ścianek z izolacją próżniową zapewnia doskonałą osłonę termiczną, co gwarantuje, że Twój napój zachowa odpowiednią temperaturę. Możesz używać go do zimnych i gorących napojów. Konstrukcja korka wraz z dodatkowym mechanizmem otwierania gwarantuje wysoką szczelność termosu. Pokrywka stanowiąca jednocześnie kubek podwyższa komfort użytkowania i stanowi efektowne uzupełnienie całości. Satynowe wykończenie w połączeniu z materiałem wykonania podkreśla walory estetyczne.Gładka struktura i prosty, opływowy kształt umożliwi szybką i precyzyjną pielęgnację.Dzięki zastosowaniu stali nierdzewnej termos jest niezwykle trwały, przez co stanie się długoletnim atrybutem w trakcie podróży. Specyfikacja: Elementy zestawu: termos nierdzewny, korek z gumową uszczelką, nakrętka. Wysokość (cm): 24.5. Długość (cm): 8. Szerokość (cm): 6,5. Materiał: stal nierdzewna, tworzywo sztuczne. Kolor: srebrny. Pojemność (l): 0.5. Utrzymuje temperaturę zimnych i gorących napojów. Dla wydłużonej żywotności produktu zalecamy mycie ręczne. Waga netto (g): 285. Wymiary opakowania(cm): 25 x 7,5 x 7.',
    'GRA RODZINNA CHIŃCZYK NA LODZIE WYŚCIG PINGWINÓW Chińczyk Pingwiny to familijna gra planszowa. W zabawie może brać udział od 2 do 4 osób. Gra została przygotowana dla dzieci od 4 roku życia. ZASADY GRY: Pingwiny poruszają się po specjalnie zaprojektowanej planszy z lodowymi mostami zgodnie z ruchem wskazówek zegara. Każda drużyna startuje z narożnika, po wyrzuceniu 6 oczek na kostce umieszczonej w centrum planszy, 1 pingwin wchodzi do gry. Pingwiny poruszają się o ilość oczek wskazanych przez kostkę. W trakcie tury możesz poruszać się tylko jednym pingwinkiem. Kiedy twój pingwin stanie na ruchomej części lodowego mostu możesz skorzystać z opcji uruchomienia strasznej pułapki i zrzucić stojące na moście pingwiny przeciwnika do lodowatej wody. Zrzucone pingwiny wracają do pól startowych, aby móc ponownie wykonać nimi ruch należy na kostce wyrzucić 6 oczek. Aby zwyciężyć wyścig należy obejść całą planszę i ustawić bezpiecznie w domu całą drużyną. ZAWARTOŚĆ ZESTAWU: - plansza (podstawa do gry z kostką), - 4 lodowe mosty, - 16 kolorowych pingwinów 4x4, - instrukcja w języku polskim. WYMIARY: - plansza (podstawa do gry z kostką), - 4 lodowe mosty, - 16 kolorowych pingwinów 4x4, - instrukcja w języku polskim.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Triplet

• Datasets: product-desc-validation, product-desc-test and product-desc-test
• Evaluated with TripletEvaluator

Metric	product-desc-validation	product-desc-test
cosine_accuracy	1.0	0.9933

Training Details

Training Dataset

product-query-retrieval-dataset

• Dataset: product-query-retrieval-dataset at b368226
• Size: 2,400 training samples
• Columns: query, product_desc_positive, and product_desc_negative
• Approximate statistics based on the first 1000 samples:

  	query	product_desc_positive	product_desc_negative
  type	string	string	string
  details	min: 10 tokens mean: 23.09 tokens max: 40 tokens	min: 128 tokens mean: 128.0 tokens max: 128 tokens	min: 128 tokens mean: 128.0 tokens max: 128 tokens

• Samples:

  query	product_desc_positive	product_desc_negative
  szukam bezprzewodowego irygatora dentystycznego do codziennej higieny jamy ustnej	IRYGATOR DENTYSTYCZNY BEZPRZEWODOWY CECHY PRODUKTU: Usuwa nadmiar płytki zębowej Usuwa zalegający pokarm z przestrzeni międzyzębowych Nie wymaga zasilania SPECYFIKACJA: Materiał: plastik Nie wymaga zasilania Działa na zasadzie pompki Zbiorniczek na wodę lub płyn do płukania Prostota działania Wymiary: 21,5cm x 3cm Irygator dentystyczny to urządzenie niezwykle przydatne w codziennej higienie jamy ustnej. Pozwala dokładnie oczyścić zęby oraz przestrzenie między nimi z resztek pokarmu. Świetnie nadaje się dla osób noszących aparaty ortodontyczne, gdyż wspomaga utrzymanie lepszej czystości jamy ustnej. Urządzenie nie wymaga zastosowania baterii, działa na zasadzie pompki. Do zbiorniczka nalewamy wodę lub płyn do płukania jamy ustnej, następnie kierujemy końcówkę irygatora w stronę zębów i naciskamy przycisk. Zestaw zawiera: Fabrycznie nowy irygator dentystyczny Oryginalne opakowanie	PAWILON 3X9M + 8 ŚCIANEK - CIEMNY SZARY BLOKADY RUREK DACHU NA ZATRZASKI- wzmacniają konstrukcję pawilonu. W ZESTAWIE 8 ŚCIAN- 6 z oknami oraz 2 pełne, możliwość używania w dowolnej konfiguracji-ze ściankami lub bez. SPECYFIKACJA- poszycie z PE, kolor ciemnoszary; wymiary 900x300x250cm; rurki 32/25/19mm; waga 23,5kg. DWUSTRONNY ZAMEK- pozwala na otwieranie i zamykanie pawilonu z obu stron(od zewnątrz, jak i od środka) MOCOWANIE NA RZEPY- ułatwiają szybki montaż i demontaż dachu z pawilonu. SPECYFIKACJA kolor stelaża: biały kolor poszycia: ciemnoszary materiał: stal malowana proszkowo + poszycie z PE 100g/m2 wymiary zewnętrzne (dł/szer/wys): 900x300x250cm średnica rurek: 32/25/19mm waga pawilonu: ~23,5kg W ZESTAWIE stelaż, elementy montażowe, śledzie i linki napinające pokrycie pawilonu (dach) 8 ścianek bocznych (6 z oknami, 2 pełne) Pawilon idealnie sprawdzi się w ogrodzie podczas przyjęć, eventów, koncertów Ochroni zarówno przed słońcem, jak i umiarkowanym deszczem. Doskonale sprawdzi...
  szukam srebrnej gwiazdy z brokatem na czubek choinki.	Czubek na choinkę - srebrna gwiazda z brokatem Cechy produktu: Ozdoba na czubek choinki bożonarodzeniowej w kształcie gwiazdy. Posiada przepiękną powłokę brokatową, która sprawi, że Twoja choinka wniesie do Twojego domu magiczną atmosferę Świąt Bożego Narodzenia. Czubek na choinkę w kształcie gwiazdy nada wnętrzu nowoczesny wygląd. Nasza gwiazda upiększy każdą choinkę, a wraz z innymi ozdobami szczególnie z zapalonymi światełkami stworzy niesamowitą dekorację i atmosferę. Szpic wykonany jest z tworzywa nietłukącego się. Specyfikacja: Wymiary: 15cm x 15cm x 3,5cm, Wymiary opakowania: 15cm x 15cm x 4cm, Kolory: srebrny, Materiał: Tworzywo sztuczne. Prawdziwa choinka musi mieć czubek, najczęściej wybierana dekoracja to błyszcząca gwiazda.Zapalone lampki, bombki i połyskująca gwiazda stworzą magiczny i niezapomniany klimat świąt. Produkt bezpieczny - wykonany z wytrzymałego tworzywa, które przy upadku nie ulega zbiciu. Święta Bożego Narodzenia to magiczny moment, który niesie ze sobą wiele...	ANTYRAMA 40x60 cm 60x40 W BIAŁYM ETUI Antyrama zawiera: plexi renomowanego europejskiego producenta, malowaną po bokach na biało płytę HDF o grubości 3 mm., zawieszki do mocowania w poziomie i w pionie, 6 klipsów mocujących, które idealnie dociskają tworzywo plexi do płyty HDF białe etui czyli opakowanie detaliczne oraz białą kartkę Firma Martomoferuje Państwu najwyższej jakości produkt, który charakteryzuje precyzyjne wykonanie, wysokiej klasy komponenty oraz gwarancja długiego użytkowania. Do produkcji naszych antyram wykorzystujemy: malowane po bokach na biało płyty HDF o grubości 3 mm. dzięki malowaniu płyta nie nasiąka wilgocią i nie pęcznieje niezawodne, najwyższej jakości klipsy, produkcji włoskiej nie pękają w odróżnieniu od klipsów chińskich bezpieczne tworzywo pleksi o grubości 1 mm. zawiera filtr UV (plexi nie żółknie) Tworzywo plexi jest obustronnie zabezpieczone folią, którą należy zdjąć przed docelowym zastosowaniem antyramy! Wystawiamy Faktury VAT oraz faktury proformy n...
  szukam zraszacza ogrodowego 20m z 20 dyszami do chłodzenia i nawadniania ogrodu	ZRASZACZ OGRODOWY 20 m Z BEZPOŚREDNIM POŁĄCZENIEM DO WĘŻA OGRODOWEGO ORAZ KRANU 1/2" 20 DYSZ ZRASZAJĄCYCH - wysokiej jakości dysze wytwarzają bardzo lekką i delikatną kurtynę wodną, która kontroluje temperaturę otoczenia i pozwala na jej skuteczne obniżenie. Średnica dyszy o 6mm tworzy "klimę ogrodową". NATYCHMIASTOWE CHŁODZENIE I NAWODNIENIE – kurtyna wodna służy m.in. do ochłody latem dzięki wytworzeniu przez drobnooczkowe dysze delikatnej mgiełki. Parująca woda pobiera ciepło z otoczenia doprowadzając do schłodzenia powietrza w upalne dni nawet o max.10stC. Im wyższa temperatura powietrza, tym efekt chłodzący jest większy. UNIWERSALNE ZASTOSOWANIE – kurtyna może być stosowana na plaży, w ogrodach, na działkach, na balkonie, przed domkiem letniskowym itp. Może być również używana do podlewania ogrodu lub roślin doniczkowych. ŁATWY MONTAŻ - zestaw zawiera opaski zaciskowe, dzięki którym bardzo łatwo zainstalujesz kurtynę. Wystarczy ułożyć wąż w odpowiednim miejscu, aby korzystać z sys...	STOJAK / PODSTAWKA NA KSIĄŻKĘ TABLET LAPTOP BAMBUSOWA – podkładka jest wykonana z naturalnego drewna bambusowego. Jest nie tylko stylowa, ale i praktyczna, ze względu na właściwości tego materiału. WSZECHSTRONNE ZASTOSOWANIE - wielofunkcyjny stojak na książki jest idealny do czytania książek, obsługi tabletów, małych laptopów, książek z obrazkami, przepisów, kartek do szkicowania. Tę lekką i zajmującą niewiele miejsca przenośną podstawkę do czytania można wszędzie ze sobą zabrać. Nadaje się do domu, szkoły, biura, biblioteki, sypialni itd. UCHWYTY + PODPÓRKA - podstawka na książki posiada 2 metalowe klamry zabezpieczone na końcach nakładkami. Uchwyty te trzymają boki książki, a gdy podstawka nie jest używana można je łatwo złożyć na płasko. Dodatkowo podstawka posiada podpórkę, która zapobiega zsuwaniu się książki. REGULACJA KĄTA NACHYLENIA - kąt stojaka na książki jest regulowany. Posiada 6 stopniową regulacja rozłożenia. Pozwoli więc na dobranie najwygodniejszej pozycji do czytania. ...

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Evaluation Dataset

product-query-retrieval-dataset

• Dataset: product-query-retrieval-dataset at b368226
• Size: 300 evaluation samples
• Columns: query, product_desc_positive, and product_desc_negative
• Approximate statistics based on the first 300 samples:

  	query	product_desc_positive	product_desc_negative
  type	string	string	string
  details	min: 11 tokens mean: 23.05 tokens max: 41 tokens	min: 128 tokens mean: 128.0 tokens max: 128 tokens	min: 128 tokens mean: 128.0 tokens max: 128 tokens

• Samples:

  query	product_desc_positive	product_desc_negative
  szukam lekkich i wygodnych słuchawek dousznych z głębokim basem i redukcją hałasu do smartfona.	Wysokiej jakości, douszne słuchawki stereofoniczne idealnie nadające się do wszelkich przenośnych odtwarzaczy MP3/MP4, radii, komórek, itp. Dzięki wyśmienitej jakości materiałów z jakich zostały wykonane charakteryzują się głębokim basem, niewielką wagą oraz wygodą noszenia. Zastosowane w słuchawkach sylikonowe nakładki zwiększają komfort odsłuchu oraz ograniczają zakłócenia zewnętrzne.Stworzone z myślą o osobach przebywających dużo poza domem, blokują dźwięki zewnętrzne i jednocześnie wzmacniają basy, oferując użytkownikowi zupełnie nowe doznania. Ultra lekkie i wygodne. Posiadają kabel z miedzi beztlenowej, przetworniki wykonane z magnesów neodymowych, specjalny, wyprofilowany kształt oraz otwory basowe u góry, które zapewnia doskonały, czysty i dynamiczny dźwięk w całym zakresie częstotliwości. Kabel zakończony wtykiem mini-jack 3.5mm pasującym do większości obecnie dostępnych przenośnych odtwarzaczy muzycznych.	Sztuczny bukiet hortensji Cechy produktu: Hortensje w pięknym kolorze: Bukiet zawiera 5 uroczych gałązek hortensji w ciekawym kolorze, dodają wnętrzu świeżości i uroku. Zielone liście: Ożywcze zielone liście doskonale komponują się z kwiatami, nadając bukietowi naturalnego wyglądu. Gęstość i faktura: Bukiet jest niezwykle gęsty, co sprawia, że stanowi imponującą dekorację, zarówno samodzielnie, jak i w kompozycjach z innymi elementami. Uniwersalne zastosowanie: Doskonały jako centralna ozdoba na stole, a także do tworzenia stroików, dekoracji florystycznych czy upiększenia miejsc na cmentarzu. Specyfikacja: Wysokość bukietu: ok. 50 cm, Średnica bukietu: ok. 20 cm, Średnica pojedynczej gałązki hortensji: ok 11 cm, Wymiary opakowania: 52 x 22 x 22 cm, Liczba gałązek hortensji w bukiecie: 5 sztuk, Kolor hortensji: różowy. Sztuczne kwiaty to bardzo praktyczny wybór z wielu powodów. Przede wszystkim nie trzeba się martwić o ich podlewanie czy przycinanie. Zastosowanie sztucznych roślin i kw...
  elastyczne sznurowadła silikonowe do butów sportowych	Elastyczne sznurowadła silikonowe Cechy produktu: Świetna alternatywa dla tradycyjnych sznurowadeł. Nie trzeba ich ciągle poprawiać i wiązać. Zastępują wiązane sznurówki, znacznie skracają czas zakładania i zdejmowania butów. Specyfikacja: Zestaw zawiera 12szt, Kolory jak na zdjęciach, Długość sznurowadła : 11,5cm (rozciągają się do 17cm), Wymiary opakowania: 16 x 6,5 x 3cm. Silikonowe sznurowadła do butów, o płaskim kształcie. Zastosowanie silikonowego materiału, zapewnia ich elastyczność. Zakładanie butów dzięki sznurówkom z silikonu jest proste, szybkie i wygodne. Z zastosowaniem tego rodzaju sznurowadeł, nie ma konieczności wiązania butów, ani obaw, że będą się rozwiązywać. Idealnie sprawdzają się w trampkach, a także w innych dowolnych butach. Sznurowadła będą doskonałe zarówno dla dzieci, jak i dorosłych. Rozwiązanie idealne dla: Dzieci którym samodzielne wiązanie sznurowadeł sprawia trudność lub jeszcze same tego nie potrafią. Osób które lubią mieć porządek nawet w sznurówkach. ...	WAGA HAKOWA LED 40KG FUNKCJA TARA - ciekawą funkcją wagi jest także opcja tarowania. Dzięki temu urządzenie pokaże właściwą wagę produktów, automatycznie odejmując wagę pojemnika. WYŚWIETLACZ – duży wyświetlacz zapewnia wygodne odczytywanie wyników. Pomaga nam w sprawdzeniu danej wagi. UNIWERSALNA – waga ma uniwersalne zastosowanie. Może być stosowana w domu, na lotnisku, na biwaku, a także dla wędkarzy. BLOKADA WYNIKU - Funkcja blokady wyniku zapamiętuje ostatni odczyt nawet po zdjęciu bagażu. Możesz wyłączyć tę funkcję poprzez przytrzymanie przycisku TARE. SPECYFIKACJA - kolor: czarny; zasilanie: 2x bateria 1,5V AAA (w zestawie); jednostki ważenia: kg, lb, jin, oz; wymiary (szer/dł/grub): 4,8/8,5/1,7cm; dokładność pomiaru: 5g; skala pomiaru: do 40kg; długość haka: 5cm; waga produktu: 90g; waga produktu z opakowaniem: 94g. SPECYFIKACJA kolor: czarny zasilanie: 2x bateria 1,5V AAA (w zestawie) jednostki ważenia: kg, lb, jin, oz wymiary (szer/dł/grub): 4,8/8,5/1,7cm dokładność pomiaru: ...
  gdzie kupić obrotowy aerator wertykulator trawy online?	Obrotowy aerator wertykulator trawy Cechy produktu: Poprawia wymianę powietrza pomiędzy ziemią a atmosferą. Obniża straty wynikające z nadmiernego wyparowania wody. Wspomaga działanie nawozów. Poprawia elastyczność trawnika. Zwiększa zdolności regeneracyjne trawnika. Podnosi średnią temperaturę gleby w strefie korzeniowej. Usuwa z powierzchni trawnika resztki darni (warstwy obumarłych roślin). Nie wytwarza spalin dzięki czemu jest przyjazny dla środowiska Nie wymaga zasilania dzięki czemu nadaje się do wykorzystania w każdych warunkach. Specyfikacja: wymiary: średnica kół: 14,5 cm, średnica kół z kolcami 21 cm, szerokość walca: 42 cm, długość uchwytu: ok 120 cm wymiary opakowania: 45x22,5x24cm, waga: ok. 4kg, możliwość odpięcia aeratora od uchwytu, 27 stalowych, ocynkowanych kolców o długości 4,5 cm, Wertykulacja jest jednym z niezbędnych elementów do prawidłowego wzrostu trawy. Napowietrza glebę oraz nacina i rozluźnia darń przyczyniając się do prawidłowego wzrostu i rozwoju. Ciesz si...	Choinka led figurka świąteczna Cechy produktu: Elegancka dekoracja, Świąteczna figurka ma kształt lodowej choinki, Choinka świeci w różnych kolorach, jest wyposażona w diody LED, Gotowa do włączenia, posiada baterie w zestawie, Wzorowana na kryształową - wykonana z wytrzymałego tworzywa. Specyfikacja: Wysokość 12 cm, Średnica podstawki 5,3 cm, Wymiary opakowania: 15 x 6 x 6 cm, Baterie w zestawie, Włącznik/wyłącznik pod spodem. Akrylowa/plastikowa i przezroczysta choinka dająca światło w różnych kolorach. Światło zmienia się płynnie. Idealnie sprawdzi się jako dekoracja w domu, dodatek do stroików, na cmentarz. Postawiona na regale wśród książek, na biurku lub na ławie, wszędzie przypomina o zbliżających się Świętach. Maleńka akrylowa choinka LED zasilana bateriami, przywołuje ciepłe bożonarodzeniowe myśli.

• Loss: MultipleNegativesRankingLoss with these parameters:

  {
      "scale": 20.0,
      "similarity_fct": "cos_sim"
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 2e-05
• num_train_epochs: 1
• warmup_ratio: 0.1
• batch_sampler: no_duplicates

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: steps
• prediction_loss_only: True
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 1
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 2e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 1
• max_steps: -1
• lr_scheduler_type: linear
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.1
• warmup_steps: 0
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: False
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: False
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: None
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: no_duplicates
• multi_dataset_batch_sampler: proportional

Training Logs

Epoch	Step	Training Loss	Validation Loss	product-desc-validation_cosine_accuracy	product-desc-test_cosine_accuracy
-1	-1	-	-	0.9800	-
0.6667	100	0.7042	0.2423	0.9967	-
-1	-1	-	-	1.0	0.9933

Framework Versions

• Python: 3.11.11
• Sentence Transformers: 3.4.1
• Transformers: 4.48.3
• PyTorch: 2.5.1+cu124
• Accelerate: 1.3.0
• Datasets: 3.3.0
• Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MultipleNegativesRankingLoss

@misc{henderson2017efficient,
    title={Efficient Natural Language Response Suggestion for Smart Reply},
    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
    year={2017},
    eprint={1705.00652},
    archivePrefix={arXiv},
    primaryClass={cs.CL}
}