Add new SentenceTransformer model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+tokenizer.json filter=lfs diff=lfs merge=lfs -text

1_Pooling/config.json

@@ -0,0 +1,10 @@
+{
+  "word_embedding_dimension": 768,
+  "pooling_mode_cls_token": false,
+  "pooling_mode_mean_tokens": true,
+  "pooling_mode_max_tokens": false,
+  "pooling_mode_mean_sqrt_len_tokens": false,
+  "pooling_mode_weightedmean_tokens": false,
+  "pooling_mode_lasttoken": false,
+  "include_prompt": true
+}

README.md

@@ -0,0 +1,802 @@
+---
+tags:
+- sentence-transformers
+- sentence-similarity
+- feature-extraction
+- generated_from_trainer
+- dataset_size:2954
+- loss:MultipleNegativesRankingLoss
+base_model: intfloat/multilingual-e5-base
+widget:
+- source_sentence: 'query: Mức trợ cấp một lần cho người có dưới 15 năm công tác được
+    tính như thế nào?'
+  sentences:
+  - 'passage: # 4804_2024_VBHN_BLĐTBXH_art14_16
+
+
+    Chương IV
+
+
+    TỔ CHỨC THỰC HIỆN VÀ ĐIỀU KHOẢN THI HÀNH[17]
+
+
+    Điều 14. Tổ chức thực hiện
+
+
+    1. Bộ Lao động - Thương binh và Xã hội chủ trì, phối hợp với Bộ Thông tin và Truyền
+    thông và các bộ, cơ quan liên quan tổ chức tuyên truyền về công tác người có công
+    với cách mạng.
+
+
+    2. Bộ Lao động - Thương binh và Xã hội chủ trì, phối hợp với Bộ Tài chính hướng
+    dẫn việc tổ chức thực hiện chi trả trợ cấp, phụ cấp và các chế độ ưu đãi người
+    có công với cách mạng đảm bảo đúng đối tượng, đầy đủ, kịp thời và phù hợp với
+    quy định hiện hành.
+
+
+    3. Bộ Lao động - Thương binh và...'
+  - 'passage: # 02_2020_UBTVQH14_chuong2_muc3_4
+
+    Điều 15. Chế độ đối với liệt sỹ
+
+
+    1. Tổ chức báo tử, truy điệu, an táng và ghi danh tại công trình ghi công liệt
+    sỹ.
+
+
+    2. Truy tặng Bằng "Tổ quốc ghi công" theo quy định của Chính phủ.
+
+
+    3. Hài cốt liệt sỹ được tìm kiếm, quy tập, xác định danh tính và an táng.
+
+
+    4. Liệt sỹ không còn thân nhân hưởng trợ cấp tuất hằng tháng theo quy định tại
+    khoản 3 Điều 16 của Pháp lệnh này thì người được giao, ủy quyền thờ cúng liệt
+    sỹ được hưởng trợ cấp thờ cúng liệt sỹ.
+
+
+    Điều 16. Chế độ ưu đãi đối với thân nhân của liệt sỹ
+
+
+    1. Cấp "Giấy chứng nhận gia đình liệt sĩ" theo...'
+  - 'passage: # 62_2011_QD_TTg_art5
+
+
+    Điều 5. Chế độ trợ cấp
+
+
+    1. Chế độ trợ cấp hàng tháng được quy định như sau:
+
+
+    a) Đối tượng quy định tại điểm a khoản 1 Điều 2 Quyết định này có từ đủ 15 năm
+    đến dưới 20 năm công tác được tính hưởng theo quy định tại Điều 4 Quyết định này
+    (bao gồm cả số đối tượng đã phục viên, xuất ngũ, thôi việc hiện đang công tác
+    ở xã có tham gia bảo hiểm xã hội bắt buộc nhưng khi tính nối thời gian phục vụ
+    trong quân đội, công an, cơ yếu với thời gian công tác ở xã mà không đủ điều kiện
+    hưởng chế độ hưu trí theo quy định) được hưởng chế độ trợ cấp hàng tháng theo
+    số năm công tá...'
+- source_sentence: 'query: Tổ chức dịch vụ chi trả phải báo cáo cho cơ quan LĐTBXH
+    những gì?'
+  sentences:
+  - 'passage: # 55_2023_NĐ_CP_appendix1
+
+
+    PHỤ LỤC I
+
+
+    MỨC HƯỞNG TRỢ CẤP, PHỤ CẤP ƯU ĐÃI HẰNG THÁNG ĐỐI VỚI NGƯỜI CÓ CÔNG VỚI CÁCH MẠNG
+    VÀ THÂN NHÂN CỦA NGƯỜI CÓ CÔNG VỚI CÁCH MẠNG (Kèm theo Nghị định số 55/2023/NĐ-CP
+    ngày 21 tháng 7 năm 2023 của Chính phủ)
+
+
+    Đơn vị: đồng
+
+
+    | MỨC TRỢ CẤP, PHỤ CẤP ƯU ĐÃI HẰNG THÁNG |  |  |  |
+
+    |---|---|---|---|
+
+    | STT | Đối tượng | Mức trợ cấp, phụ cấp |  |
+
+    | Trợ cấp | Phụ cấp |  |  |
+
+    | 1 | Người hoạt động cách mạng trước ngày 01 tháng 01 năm 1945 và thân nhân |  |  |
+
+    | 1.1 | Người hoạt động cách mạng trước ngày 01 tháng 01 năm 1945: |  |  |
+
+    |  | Diện thoát ly | 2.297.000 ...'
+  - 'passage: # 31_2011_QD_UBND_quy_dinh_chuong2_art3_5
+
+
+    Chương II
+
+
+    CHẾ ĐỘ MIỄN GIẢM CỤ THỂ
+
+
+    Điều 3. Phạm vi đối tượng
+
+
+    Đối tượng áp dụng chế độ miễn, giảm là người có công với cách mạng hiện đang gặp
+    hoàn cảnh thật sự khó khăn về nhà ở, đất ở theo quy định tại Khoản 1, Điều 1,
+    Quyết định số 117/2007/QĐ-TTg ngày 25/7/2007 về việc sửa đổi, bổ sung một số điều
+    của Quyết định số 118/QĐ-TTg ngày 27/02/1996 của Thủ tướng Chính phủ về việc hỗ
+    trợ người có công với cách mạng cải thiện nhà ở.
+
+
+    Điều 4. Miễn tiền sử dụng đất
+
+
+    Người có công với cách mạng khi được giao đất ở, được phép chuyển mục đích sử
+    dụng,...'
+  - 'passage: # 101_2018_TT_BTC_ch2_art15
+
+    Điều 15. Chi trả chế độ cho người thụ hưởng thông qua tổ chức dịch vụ chi trả
+
+
+    1. Việc lựa chọn tổ chức dịch vụ chi trả có kinh nghiệm, có mạng lưới điểm giao
+    dịch tại xã, phường, thị trấn, có thể đảm nhiệm việc chi trả tại nhà cho một số
+    đối tượng đặc thù, bảo đảm kịp thời và an toàn trong việc chi trả theo quy định
+    của Bộ trưởng Bộ LĐTBXH.
+
+
+    2. Việc chi trả thông qua tổ chức dịch vụ chi trả được lập thành hợp đồng giữa
+    cơ quan LĐTBXH (Sở LĐTBXH hoặc Phòng LĐTBXH tùy theo phân cấp của từng địa phương)
+    và tổ chức dịch vụ chi trả, trong đó phải ghi rõ phạm vi...'
+- source_sentence: 'query: Quyền lợi người được hưởng chế độ bảo hiểm y tế thực hiện
+    theo quy định nào?'
+  sentences:
+  - 'passage: # 12_2012_QĐ_UBND_quy_dinh_chuong2_art3
+
+
+    Chương II
+
+
+    CÁC QUY ĐỊNH CỤ THỂ
+
+
+    Điều 3. Đối tượng tặng quà, gồm:
+
+
+    1. Nhóm đối tượng số 1:
+
+
+    1.1. Bà mẹ Việt Nam anh hùng đang hưởng trợ cấp nuôi dưỡng và phụ cấp hằng tháng.
+
+
+    1.2. Thương binh, người hưởng chính sách như thương binh bị suy giảm khả năng
+    lao động do thương tật từ 81% trở lên (bao gồm cả những thương binh loại B được
+    công nhận từ trước ngày 31 tháng 12 năm 1993) đang hưởng trợ cấp ưu đãi hằng tháng.
+
+
+    1.3. Bệnh binh bị suy giảm khả năng lao động do bệnh tật từ 81% trở lên đang hưởng
+    trợ cấp ưu đãi hằng tháng.
+
+
+    1.4. Thân nhân hai liệ...'
+  - 'passage: # 836_2024_VBHN_BLDTBXH_art2
+
+
+    Điều 2. Chế độ
+
+
+    1. Chế độ bảo hiểm y tế
+
+
+    a) Thanh niên xung phong được Nhà nước mua bảo hiểm y tế như đối với thanh niên
+    xung phong chống Mỹ cứu nước theo Quyết định số 290/2005/QĐ- TTg ngày 08 tháng
+    11 năm 2005 của Thủ tướng Chính phủ.
+
+
+    b) Quyền lợi của người được hưởng chế độ bảo hiểm y tế thực hiện theo quy định
+    hiện hành.
+
+
+    2. Trợ cấp mai táng
+
+
+    a) Thanh niên xung phong chết, người hoặc tổ chức lo mai táng được nhận trợ cấp
+    mai táng như các đối tượng tham gia bảo hiểm xã hội bắt buộc do Luật Bảo hiểm
+    xã hội quy định.
+
+
+    b) Trường hợp đối tượng chế từ ngày...'
+  - 'passage: # 4804_2024_VBHN_BLĐTBXH_art13
+
+
+    Điều 13. Các chế độ ưu đãi khác
+
+
+    1. Trợ cấp mai táng: mức chi theo quy định của pháp luật bảo hiểm xã hội về trợ
+    cấp mai táng.
+
+
+    2. Trợ cấp thờ cúng liệt sĩ: 1.400.000 đồng/01 liệt sĩ/01 năm.
+
+
+    3. Chi tiền ăn thêm ngày lễ, tết đối với thương binh, bệnh binh, người hưởng chính
+    sách như thương binh, thương binh loại B có tỷ lệ tổn thương cơ thể từ 81% trở
+    lên: Mức chi 200.000 đồng/01 người/01 ngày; số ngày được chi ăn thêm là ngày nghỉ
+    lễ, tết theo quy định của Bộ luật Lao động, ngày 27 tháng 7 và ngày 22 tháng 12
+    hằng năm.
+
+
+    4. Người có công với cách mạng đ...'
+- source_sentence: 'query: Hoạt động thể thao phục vụ điều dưỡng được chi bao nhiêu
+    tiền mỗi người?'
+  sentences:
+  - 'passage: # 835_2024_VBHN_BLDTBXH_form_8
+
+
+    Mẫu số 818
+
+
+    CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc ---------------
+
+
+    BIÊN BẢN XÁC NHẬN VÀ ĐỀ NGHỊ GIẢI QUYẾT CHẾ ĐỘ ĐỐI VỚI THANH NIÊN XUNG PHONG
+
+
+    Hôm nay, ngày...... tháng .... năm ...........
+
+
+    Tại UBND xã .....................huyện...........................tỉnh ..................
+
+
+    Chúng tôi, gồm:
+
+
+    1. Đại diện Đảng ủy xã (phường): ......... ...........................................
+
+
+    2. Đại diện UBND xã (phường): ......... ..............................................
+
+
+    3. Đại diện Mặt trận tổ quốc:...... . . . . . . . ...........'
+  - 'passage: # 12_2012_QĐ_UBND_quy_dinh_chuong2_art3
+
+
+    Chương II
+
+
+    CÁC QUY ĐỊNH CỤ THỂ
+
+
+    Điều 3. Đối tượng tặng quà, gồm:
+
+
+    1. Nhóm đối tượng số 1:
+
+
+    1.1. Bà mẹ Việt Nam anh hùng đang hưởng trợ cấp nuôi dưỡng và phụ cấp hằng tháng.
+
+
+    1.2. Thương binh, người hưởng chính sách như thương binh bị suy giảm khả năng
+    lao động do thương tật từ 81% trở lên (bao gồm cả những thương binh loại B được
+    công nhận từ trước ngày 31 tháng 12 năm 1993) đang hưởng trợ cấp ưu đãi hằng tháng.
+
+
+    1.3. Bệnh binh bị suy giảm khả năng lao động do bệnh tật từ 81% trở lên đang hưởng
+    trợ cấp ưu đãi hằng tháng.
+
+
+    1.4. Thân nhân hai liệ...'
+  - 'passage: # 101_2018_TT_BTC_ch2_art6
+
+    Điều 6. Chi chế độ điều dưỡng phục hồi sức khoẻ
+
+
+    1. Điều dưỡng tại nhà
+
+
+    a) Mức chi thực hiện theo quy định tại điểm b khoản 3 Điều 53 Nghị định số 31/2013/NĐ-CP;
+
+
+    b) Phương thức: chi trực tiếp cho đối tượng được hưởng.
+
+
+    2. Điều dưỡng tập trung
+
+
+    a) Mức chi thực hiện theo quy định tại điểm a khoản 3 Điều 53 Nghị định số 31/2013/NĐ-CP,
+    bao gồm:
+
+
+    - Tiền ăn trong thời gian điều dưỡng, gồm: ăn sáng, ăn 2 bữa chính (trưa và chiều)
+    và ăn bồi dưỡng thêm (nếu có);
+
+
+    - Thuốc bổ và thuốc chữa bệnh thông thường;
+
+
+    - Quà tặng cho đối tượng (bằng tiền hoặc hiện vật);
+
+
+    - Các ...'
+- source_sentence: 'query: Giám đốc Sở Lao động - Thương binh và Xã hội TP HCM có
+    quyền gì về dự toán ngân sách?'
+  sentences:
+  - 'passage: # 55_2023_NĐ_CP_preamble
+
+
+    | CHÍNH PHỦ -------- | CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh
+    phúc --------------- |
+
+    |---|---|
+
+    | Số: 55/2023/NĐ-CP | Hà Nội, ngày 21 tháng 7 năm 2023 |
+
+
+    NGHỊ ĐỊNH
+
+
+    SỬA ĐỔI, BỔ SUNG MỘT SỐ ĐIỀU CỦA NGHỊ ĐỊNH SỐ 75/2021/NĐ-CP NGÀY 24 THÁNG 7 NĂM
+    2021 CỦA CHÍNH PHỦ QUY ĐỊNH MỨC HƯỞNG TRỢ CẤP, PHỤ CẤP VÀ CÁC CHẾ ĐỘ ƯU ĐÃI NGƯỜI
+    CÓ CÔNG VỚI CÁCH MẠNG
+
+
+    Căn cứ Luật Tổ chức Chính phủ ngày 19 tháng 6 năm 2015; Luật sửa đổi, bổ sung
+    một số điều của Luật Tổ chức Chính phủ và Luật Tổ chức chính quyền địa phương
+    ngày 22 tháng 11 năm 2019;
+
+
+    Căn cứ Pháp l...'
+  - 'passage: # 49_2012_QĐ_UBND_regulation_ch2_art4_5
+
+    Chương II
+
+
+    QUYỀN HẠN, TRÁCH NHIỆM CỦA CÁC NGÀNH VÀ CÁC CẤP NGÂN SÁCH
+
+
+    Điều 4. Sở Lao động - Thương binh và Xã hội có nhiệm vụ
+
+
+    1. Thẩm tra dự toán kinh phí hàng năm thực hiện chính sách ưu đãi người có công
+    với cách mạng và người trực tiếp tham gia kháng chiến của Phòng Lao động - Thương
+    binh và Xã hội các quận - huyện, các đơn vị thuộc Sở Lao động - Thương binh và
+    Xã hội có sử dụng kinh phí thực hiện chính sách ưu đãi người có công với cách
+    mạng và người trực tiếp tham gia kháng chiến gồm: Ban Quản trang thành phố, Sở
+    Lao động - Thương binh và ...'
+  - 'passage: # 4804_2024_VBHN_BLĐTBXH_art1_2
+
+
+    Chương I
+
+
+    QUY ĐỊNH CHUNG
+
+
+    Điều 1. Phạm vi điều chỉnh[2]
+
+
+    Nghị định này quy định về mức hưởng trợ cấp, phụ cấp ưu đãi người có công với
+    cách mạng, thân nhân của người có công với cách mạng và các chế độ ưu đãi đối
+    với người có công với cách mạng từ nguồn ngân sách trung ương thực hiện Pháp lệnh
+    Ưu đãi người có công với cách mạng được bố trí trong dự toán ngân sách nhà nước
+    chi thường xuyên hằng năm của Bộ Lao động - Thương binh và Xã hội, Bộ Quốc phòng,
+    Bộ Công an.
+
+
+    Điều 2. Đối tượng áp dụng
+
+
+    Đối tượng áp dụng theo quy định tại Điều 2 Pháp lệnh số 02/20...'
+pipeline_tag: sentence-similarity
+library_name: sentence-transformers
+metrics:
+- cosine_accuracy@1
+- cosine_accuracy@3
+- cosine_accuracy@5
+- cosine_accuracy@10
+- cosine_precision@1
+- cosine_precision@3
+- cosine_precision@5
+- cosine_precision@10
+- cosine_recall@1
+- cosine_recall@3
+- cosine_recall@5
+- cosine_recall@10
+- cosine_ndcg@10
+- cosine_mrr@10
+- cosine_map@100
+model-index:
+- name: SentenceTransformer based on intfloat/multilingual-e5-base
+  results:
+  - task:
+      type: information-retrieval
+      name: Information Retrieval
+    dataset:
+      name: vietnamese eval
+      type: vietnamese-eval
+    metrics:
+    - type: cosine_accuracy@1
+      value: 0.24
+      name: Cosine Accuracy@1
+    - type: cosine_accuracy@3
+      value: 0.64
+      name: Cosine Accuracy@3
+    - type: cosine_accuracy@5
+      value: 0.82
+      name: Cosine Accuracy@5
+    - type: cosine_accuracy@10
+      value: 0.88
+      name: Cosine Accuracy@10
+    - type: cosine_precision@1
+      value: 0.24
+      name: Cosine Precision@1
+    - type: cosine_precision@3
+      value: 0.21333333333333332
+      name: Cosine Precision@3
+    - type: cosine_precision@5
+      value: 0.16399999999999998
+      name: Cosine Precision@5
+    - type: cosine_precision@10
+      value: 0.088
+      name: Cosine Precision@10
+    - type: cosine_recall@1
+      value: 0.24
+      name: Cosine Recall@1
+    - type: cosine_recall@3
+      value: 0.64
+      name: Cosine Recall@3
+    - type: cosine_recall@5
+      value: 0.82
+      name: Cosine Recall@5
+    - type: cosine_recall@10
+      value: 0.88
+      name: Cosine Recall@10
+    - type: cosine_ndcg@10
+      value: 0.5690341992760003
+      name: Cosine Ndcg@10
+    - type: cosine_mrr@10
+      value: 0.4673571428571428
+      name: Cosine Mrr@10
+    - type: cosine_map@100
+      value: 0.47461305536568693
+      name: Cosine Map@100
+---
+
+# SentenceTransformer based on intfloat/multilingual-e5-base
+
+This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
+
+## Model Details
+
+### Model Description
+- **Model Type:** Sentence Transformer
+- **Base model:** [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base) <!-- at revision 835193815a3936a24a0ee7dc9e3d48c1fbb19c55 -->
+- **Maximum Sequence Length:** 512 tokens
+- **Output Dimensionality:** 768 dimensions
+- **Similarity Function:** Cosine Similarity
+<!-- - **Training Dataset:** Unknown -->
+<!-- - **Language:** Unknown -->
+<!-- - **License:** Unknown -->
+
+### Model Sources
+
+- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
+- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
+- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
+
+### Full Model Architecture
+
+```
+SentenceTransformer(
+  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
+  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
+  (2): Normalize()
+)
+```
+
+## Usage
+
+### Direct Usage (Sentence Transformers)
+
+First install the Sentence Transformers library:
+
+```bash
+pip install -U sentence-transformers
+```
+
+Then you can load this model and run inference.
+```python
+from sentence_transformers import SentenceTransformer
+
+# Download from the 🤗 Hub
+model = SentenceTransformer("ng3owb/congbot-e5")
+# Run inference
+sentences = [
+    'query: Giám đốc Sở Lao động - Thương binh và Xã hội TP HCM có quyền gì về dự toán ngân sách?',
+    'passage: # 49_2012_QĐ_UBND_regulation_ch2_art4_5\nChương II\n\nQUYỀN HẠN, TRÁCH NHIỆM CỦA CÁC NGÀNH VÀ CÁC CẤP NGÂN SÁCH\n\nĐiều 4. Sở Lao động - Thương binh và Xã hội có nhiệm vụ\n\n1. Thẩm tra dự toán kinh phí hàng năm thực hiện chính sách ưu đãi người có công với cách mạng và người trực tiếp tham gia kháng chiến của Phòng Lao động - Thương binh và Xã hội các quận - huyện, các đơn vị thuộc Sở Lao động - Thương binh và Xã hội có sử dụng kinh phí thực hiện chính sách ưu đãi người có công với cách mạng và người trực tiếp tham gia kháng chiến gồm: Ban Quản trang thành phố, Sở Lao động - Thương binh và ...',
+    'passage: # 55_2023_NĐ_CP_preamble\n\n| CHÍNH PHỦ -------- | CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc --------------- |\n|---|---|\n| Số: 55/2023/NĐ-CP | Hà Nội, ngày 21 tháng 7 năm 2023 |\n\nNGHỊ ĐỊNH\n\nSỬA ĐỔI, BỔ SUNG MỘT SỐ ĐIỀU CỦA NGHỊ ĐỊNH SỐ 75/2021/NĐ-CP NGÀY 24 THÁNG 7 NĂM 2021 CỦA CHÍNH PHỦ QUY ĐỊNH MỨC HƯỞNG TRỢ CẤP, PHỤ CẤP VÀ CÁC CHẾ ĐỘ ƯU ĐÃI NGƯỜI CÓ CÔNG VỚI CÁCH MẠNG\n\nCăn cứ Luật Tổ chức Chính phủ ngày 19 tháng 6 năm 2015; Luật sửa đổi, bổ sung một số điều của Luật Tổ chức Chính phủ và Luật Tổ chức chính quyền địa phương ngày 22 tháng 11 năm 2019;\n\nCăn cứ Pháp l...',
+]
+embeddings = model.encode(sentences)
+print(embeddings.shape)
+# [3, 768]
+
+# Get the similarity scores for the embeddings
+similarities = model.similarity(embeddings, embeddings)
+print(similarities.shape)
+# [3, 3]
+```
+
+<!--
+### Direct Usage (Transformers)
+
+<details><summary>Click to see the direct usage in Transformers</summary>
+
+</details>
+-->
+
+<!--
+### Downstream Usage (Sentence Transformers)
+
+You can finetune this model on your own dataset.
+
+<details><summary>Click to expand</summary>
+
+</details>
+-->
+
+<!--
+### Out-of-Scope Use
+
+*List how the model may foreseeably be misused and address what users ought not to do with the model.*
+-->
+
+## Evaluation
+
+### Metrics
+
+#### Information Retrieval
+
+* Dataset: `vietnamese-eval`
+* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
+
+| Metric              | Value     |
+|:--------------------|:----------|
+| cosine_accuracy@1   | 0.24      |
+| cosine_accuracy@3   | 0.64      |
+| cosine_accuracy@5   | 0.82      |
+| cosine_accuracy@10  | 0.88      |
+| cosine_precision@1  | 0.24      |
+| cosine_precision@3  | 0.2133    |
+| cosine_precision@5  | 0.164     |
+| cosine_precision@10 | 0.088     |
+| cosine_recall@1     | 0.24      |
+| cosine_recall@3     | 0.64      |
+| cosine_recall@5     | 0.82      |
+| cosine_recall@10    | 0.88      |
+| **cosine_ndcg@10**  | **0.569** |
+| cosine_mrr@10       | 0.4674    |
+| cosine_map@100      | 0.4746    |
+
+<!--
+## Bias, Risks and Limitations
+
+*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
+-->
+
+<!--
+### Recommendations
+
+*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
+-->
+
+## Training Details
+
+### Training Dataset
+
+#### Unnamed Dataset
+
+* Size: 2,954 training samples
+* Columns: <code>sentence_0</code> and <code>sentence_1</code>
+* Approximate statistics based on the first 1000 samples:
+  |         | sentence_0                                                                        | sentence_1                                                                           |
+  |:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
+  | type    | string                                                                            | string                                                                               |
+  | details | <ul><li>min: 14 tokens</li><li>mean: 21.9 tokens</li><li>max: 38 tokens</li></ul> | <ul><li>min: 93 tokens</li><li>mean: 189.96 tokens</li><li>max: 304 tokens</li></ul> |
+* Samples:
+  | sentence_0                                                                                          | sentence_1                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         |
+  |:----------------------------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+  | <code>query: Căn cứ pháp lý nào quy định về thủ tục hành nghề luật sư?</code>                       | <code>passage: # 1766_2020_QĐ_UBND_annex_luat_su_1<br>| III | LĨNH VỰC LUẬT SƯ (14 TTHC) |  |  |  |  |  |  |  |  |<br>| III.1 | Thủ tục hành chính cấp tỉnh (14 TTHC) |  |  |  |  |  |  |  |  |<br>| 1 | 1.002010 | Đăng ký hoạt động của tổ chức hành nghề luật sư | 09 ngày | 3 | Có | - Tiếp nhận và trả kết quả tại Trung tâm HCC tỉnh (Quầy Sở Tư pháp) - Cơ quan giải quyết: Sở Tư pháp | 50.000 đồng/hồ sơ | - Luật Luật sư năm 2006 - Nghị định số 123/2013/NĐ-CP ngày 14/10/2013 của Chính phủ - Thông tư số 02/2015/TT-BTP ngày 16/01/2015 của Bộ Tư pháp - Thông tư số 47/2019/TT-BTC ngày 05/8/2019 của Bộ Tài chính |  |<br>|...</code>                               |
+  | <code>query: Mức hưởng trợ cấp 3.953.000 đồng dành cho thương binh có điều kiện gì?</code>          | <code>passage: # 55_2023_NĐ_CP_appendix2<br><br>PHỤ LỤC II<br><br>MỨC HƯỞNG TRỢ CẤP ƯU ĐÃI HẰNG THÁNG ĐỐI VỚI THƯƠNG BINH, NGƯỜI HƯỞNG CHÍNH SÁCH NHƯ THƯƠNG BINH (Kèm theo Nghị định số 55/2023/NĐ-CP ngày 21 tháng 7 năm 2023 của Chính phủ)<br><br>Đơn vị tính: đồng<br><br>| STT | Tỷ lệ tổn thương cơ thể | Mức hưởng trợ cấp | STT | Tỷ lệ tổn thương cơ thể | Mức hưởng trợ cấp |<br>|---|---|---|---|---|---|<br>| 1 | 21% | 1.384.000 | 21 | 41% | 2.702.000 |<br>| 2 | 22% | 1.451.000 | 22 | 42% | 2.766.000 |<br>| 3 | 23% | 1.513.000 | 23 | 43% | 2.829.000 |<br>| 4 | 24% | 1.580.000 | 24 | 44% | 2.899.000 |<br>| 5 | 25% | 1.648.000 | 25 | 45% | 2.96...</code> |
+  | <code>query: Làm nhiệm vụ quốc tế ở Căm-pu-chi-a, giúp bạn Lào được hưởng chế độ trợ cấp gì?</code> | <code>passage: # 101_2018_TT_BTC_ch2_art4<br>Chương II<br><br>CHI THỰC HIỆN CHẾ ĐỘ ƯU ĐÃI NGƯỜI CÓ CÔNG VỚI CÁCH MẠNG VÀ NGƯỜI TRỰC TIẾP THAM GIA KHÁNG CHIẾN<br><br>Điều 4. Chi chế độ trợ cấp, phụ cấp<br><br>1. Chi chế độ trợ cấp hàng tháng, phụ cấp hàng tháng, trợ cấp một lần đối với các đối tượng theo quy định tại Điều 1 Pháp lệnh sửa đổi, bổ sung một số điều của Pháp lệnh ưu đãi người có công với cách mạng ngày 16 tháng 7 năm 2012.<br><br>2. Chi chế độ trợ cấp hàng tháng, trợ cấp một lần đối với người trực tiếp tham gia kháng chiến do ngành LĐTBXH quản lý, gồm:<br><br>a) Trợ cấp hàng tháng đối với:<br><br>- Cán bộ, chiến sĩ Công an nh...</code>    |
+* Loss: [<code>MultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#multiplenegativesrankingloss) with these parameters:
+  ```json
+  {
+      "scale": 20.0,
+      "similarity_fct": "cos_sim"
+  }
+  ```
+
+### Training Hyperparameters
+#### Non-Default Hyperparameters
+
+- `eval_strategy`: steps
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 16
+- `multi_dataset_batch_sampler`: round_robin
+
+#### All Hyperparameters
+<details><summary>Click to expand</summary>
+
+- `overwrite_output_dir`: False
+- `do_predict`: False
+- `eval_strategy`: steps
+- `prediction_loss_only`: True
+- `per_device_train_batch_size`: 16
+- `per_device_eval_batch_size`: 16
+- `per_gpu_train_batch_size`: None
+- `per_gpu_eval_batch_size`: None
+- `gradient_accumulation_steps`: 1
+- `eval_accumulation_steps`: None
+- `torch_empty_cache_steps`: None
+- `learning_rate`: 5e-05
+- `weight_decay`: 0.0
+- `adam_beta1`: 0.9
+- `adam_beta2`: 0.999
+- `adam_epsilon`: 1e-08
+- `max_grad_norm`: 1
+- `num_train_epochs`: 3
+- `max_steps`: -1
+- `lr_scheduler_type`: linear
+- `lr_scheduler_kwargs`: {}
+- `warmup_ratio`: 0.0
+- `warmup_steps`: 0
+- `log_level`: passive
+- `log_level_replica`: warning
+- `log_on_each_node`: True
+- `logging_nan_inf_filter`: True
+- `save_safetensors`: True
+- `save_on_each_node`: False
+- `save_only_model`: False
+- `restore_callback_states_from_checkpoint`: False
+- `no_cuda`: False
+- `use_cpu`: False
+- `use_mps_device`: False
+- `seed`: 42
+- `data_seed`: None
+- `jit_mode_eval`: False
+- `use_ipex`: False
+- `bf16`: False
+- `fp16`: False
+- `fp16_opt_level`: O1
+- `half_precision_backend`: auto
+- `bf16_full_eval`: False
+- `fp16_full_eval`: False
+- `tf32`: None
+- `local_rank`: 0
+- `ddp_backend`: None
+- `tpu_num_cores`: None
+- `tpu_metrics_debug`: False
+- `debug`: []
+- `dataloader_drop_last`: False
+- `dataloader_num_workers`: 0
+- `dataloader_prefetch_factor`: None
+- `past_index`: -1
+- `disable_tqdm`: False
+- `remove_unused_columns`: True
+- `label_names`: None
+- `load_best_model_at_end`: False
+- `ignore_data_skip`: False
+- `fsdp`: []
+- `fsdp_min_num_params`: 0
+- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
+- `tp_size`: 0
+- `fsdp_transformer_layer_cls_to_wrap`: None
+- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
+- `deepspeed`: None
+- `label_smoothing_factor`: 0.0
+- `optim`: adamw_torch
+- `optim_args`: None
+- `adafactor`: False
+- `group_by_length`: False
+- `length_column_name`: length
+- `ddp_find_unused_parameters`: None
+- `ddp_bucket_cap_mb`: None
+- `ddp_broadcast_buffers`: False
+- `dataloader_pin_memory`: True
+- `dataloader_persistent_workers`: False
+- `skip_memory_metrics`: True
+- `use_legacy_prediction_loop`: False
+- `push_to_hub`: False
+- `resume_from_checkpoint`: None
+- `hub_model_id`: None
+- `hub_strategy`: every_save
+- `hub_private_repo`: None
+- `hub_always_push`: False
+- `gradient_checkpointing`: False
+- `gradient_checkpointing_kwargs`: None
+- `include_inputs_for_metrics`: False
+- `include_for_metrics`: []
+- `eval_do_concat_batches`: True
+- `fp16_backend`: auto
+- `push_to_hub_model_id`: None
+- `push_to_hub_organization`: None
+- `mp_parameters`: 
+- `auto_find_batch_size`: False
+- `full_determinism`: False
+- `torchdynamo`: None
+- `ray_scope`: last
+- `ddp_timeout`: 1800
+- `torch_compile`: False
+- `torch_compile_backend`: None
+- `torch_compile_mode`: None
+- `include_tokens_per_second`: False
+- `include_num_input_tokens_seen`: False
+- `neftune_noise_alpha`: None
+- `optim_target_modules`: None
+- `batch_eval_metrics`: False
+- `eval_on_start`: False
+- `use_liger_kernel`: False
+- `eval_use_gather_object`: False
+- `average_tokens_across_devices`: False
+- `prompts`: None
+- `batch_sampler`: batch_sampler
+- `multi_dataset_batch_sampler`: round_robin
+
+</details>
+
+### Training Logs
+| Epoch | Step | vietnamese-eval_cosine_ndcg@10 |
+|:-----:|:----:|:------------------------------:|
+| 1.0   | 93   | 0.5690                         |
+
+
+### Framework Versions
+- Python: 3.11.11
+- Sentence Transformers: 3.4.1
+- Transformers: 4.51.3
+- PyTorch: 2.6.0+cu124
+- Accelerate: 1.5.2
+- Datasets: 3.6.0
+- Tokenizers: 0.21.1
+
+## Citation
+
+### BibTeX
+
+#### Sentence Transformers
+```bibtex
+@inproceedings{reimers-2019-sentence-bert,
+    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
+    author = "Reimers, Nils and Gurevych, Iryna",
+    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
+    month = "11",
+    year = "2019",
+    publisher = "Association for Computational Linguistics",
+    url = "https://arxiv.org/abs/1908.10084",
+}
+```
+
+#### MultipleNegativesRankingLoss
+```bibtex
+@misc{henderson2017efficient,
+    title={Efficient Natural Language Response Suggestion for Smart Reply},
+    author={Matthew Henderson and Rami Al-Rfou and Brian Strope and Yun-hsuan Sung and Laszlo Lukacs and Ruiqi Guo and Sanjiv Kumar and Balint Miklos and Ray Kurzweil},
+    year={2017},
+    eprint={1705.00652},
+    archivePrefix={arXiv},
+    primaryClass={cs.CL}
+}
+```
+
+<!--
+## Glossary
+
+*Clearly define terms in order to be accessible across audiences.*
+-->
+
+<!--
+## Model Card Authors
+
+*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
+-->
+
+<!--
+## Model Card Contact
+
+*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
+-->

config.json

@@ -0,0 +1,27 @@
+{
+  "architectures": [
+    "XLMRobertaModel"
+  ],
+  "attention_probs_dropout_prob": 0.1,
+  "bos_token_id": 0,
+  "classifier_dropout": null,
+  "eos_token_id": 2,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.1,
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "layer_norm_eps": 1e-05,
+  "max_position_embeddings": 514,
+  "model_type": "xlm-roberta",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "output_past": true,
+  "pad_token_id": 1,
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.51.3",
+  "type_vocab_size": 1,
+  "use_cache": true,
+  "vocab_size": 250002
+}

config_sentence_transformers.json

@@ -0,0 +1,10 @@
+{
+  "__version__": {
+    "sentence_transformers": "3.4.1",
+    "transformers": "4.51.3",
+    "pytorch": "2.6.0+cu124"
+  },
+  "prompts": {},
+  "default_prompt_name": null,
+  "similarity_fn_name": "cosine"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4dfcc849cf84d05f1547fdae50723e7fcd3e1ed8be35d8ac2dfc7384df43dd0f
+size 1112197096

modules.json

@@ -0,0 +1,20 @@
+[
+  {
+    "idx": 0,
+    "name": "0",
+    "path": "",
+    "type": "sentence_transformers.models.Transformer"
+  },
+  {
+    "idx": 1,
+    "name": "1",
+    "path": "1_Pooling",
+    "type": "sentence_transformers.models.Pooling"
+  },
+  {
+    "idx": 2,
+    "name": "2",
+    "path": "2_Normalize",
+    "type": "sentence_transformers.models.Normalize"
+  }
+]

sentence_bert_config.json

@@ -0,0 +1,4 @@
+{
+  "max_seq_length": 512,
+  "do_lower_case": false
+}

sentencepiece.bpe.model

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cfc8146abe2a0488e9e2a0c56de7952f7c11ab059eca145a0a727afce0db2865
+size 5069051

special_tokens_map.json

@@ -0,0 +1,51 @@
+{
+  "bos_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "cls_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "eos_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "mask_token": {
+    "content": "<mask>",
+    "lstrip": true,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "pad_token": {
+    "content": "<pad>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "sep_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "<unk>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:883b037111086fd4dfebbbc9b7cee11e1517b5e0c0514879478661440f137085
+size 17082987

tokenizer_config.json

@@ -0,0 +1,62 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "<s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "<pad>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "</s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "<unk>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "250001": {
+      "content": "<mask>",
+      "lstrip": true,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "<s>",
+  "eos_token": "</s>",
+  "extra_special_tokens": {},
+  "mask_token": "<mask>",
+  "max_length": 512,
+  "model_max_length": 512,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "right",
+  "sep_token": "</s>",
+  "stride": 0,
+  "tokenizer_class": "XLMRobertaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>"
+}