IndoLEM_bert_10kali

This model is a fine-tuned version of indolem/indobert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 3.3490

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 16
  • eval_batch_size: 16
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 3

Training results

Training Loss Epoch Step Validation Loss
No log 1.0 8 4.3583
No log 2.0 16 3.5732
No log 3.0 24 3.3490

Framework versions

  • Transformers 4.38.2
  • Pytorch 2.1.0+cu121
  • Datasets 2.18.0
  • Tokenizers 0.15.2

widget:

  • text: "Apa saja berkas atau syarat yang diperlukan untuk pendaftaran wisuda?" context: "Syarat atau berkas pendaftaran wisuda adalah sebagai berikut\n1. Print out biodata on line yang terdiri atas data mahasiswa, data pribadi, data skripsi atau tugas akhir yang telah diisi dengan benar serta memiliki foto hitam putih 3x4 \n2. Foto hitam putih 3x4 cm ditempel pada tempat yang telah disediakan berlaku untuk tingkat universitas maupun fakultas \n3. KTM asli\n4. Fotokopi ijazah terakhir satu lembar\n5. Pembayaran ukt asli atau fotokopi yang telah dilegalisir Dekan dua atau Dekan II dari semester 1 sampai dengan semester terakhir\n6. Bukti pembayaran wisuda\n7. Nilai EPT yang telah dilegalisir oleh Pusat Bahasa Unila sebanyak 1 lembar\n8. Surat Keterangan Bebas Pinjaman dari Perpustakaan Unila (Asli)\n9. Surat Bukti Penyerahan Skripsi atau Tugas Akhir dari Perpustakaan Unila yang asli\n10. Judul skripsi atau tugas akhir yang disetujui dan ditandatangani oleh Komisi Pembimbing dan Kepala Jurusan atau Kepala Prodi sebanyak 1 lembar\n11. Fotokopi Pengesahan Skripsi atau Tugas Akhir\n12. Transkrip Nilai Matahari\n13. Surat Pernyataan tata Tertib Upacara Wisuda beserta materai senilai Rp 10.000,-\n14. Sebagai Arsip Fakultas yaitu fotokopi persyaratan sebelumnya sesuai dengan yang dibutuhkan fakultas sebanyak 1 rangkap" example_title: "Syarat"
  • text: "Berapa lembar fotokopi ijazah terakhir yang perlu disertakan dalam pendaftaran wisuda?" context: "Syarat atau berkas pendaftaran wisuda adalah sebagai berikut\n1. Print out biodata on line yang terdiri atas data mahasiswa, data pribadi, data skripsi atau tugas akhir yang telah diisi dengan benar serta memiliki foto hitam putih 3x4 \n2. Foto hitam putih 3x4 cm ditempel pada tempat yang telah disediakan berlaku untuk tingkat universitas maupun fakultas \n3. KTM asli\n4. Fotokopi ijazah terakhir satu lembar\n5. Pembayaran ukt asli atau fotokopi yang telah dilegalisir Dekan dua atau Dekan II dari semester 1 sampai dengan semester terakhir\n6. Bukti pembayaran wisuda\n7. Nilai EPT yang telah dilegalisir oleh Pusat Bahasa Unila sebanyak 1 lembar\n8. Surat Keterangan Bebas Pinjaman dari Perpustakaan Unila (Asli)\n9. Surat Bukti Penyerahan Skripsi atau Tugas Akhir dari Perpustakaan Unila yang asli\n10. Judul skripsi atau tugas akhir yang disetujui dan ditandatangani oleh Komisi Pembimbing dan Kepala Jurusan atau Kepala Prodi sebanyak 1 lembar\n11. Fotokopi Pengesahan Skripsi atau Tugas Akhir\n12. Transkrip Nilai Matahari\n13. Surat Pernyataan tata Tertib Upacara Wisuda beserta materai senilai Rp 10.000,-\n14. Sebagai Arsip Fakultas yaitu fotokopi persyaratan sebelumnya sesuai dengan yang dibutuhkan fakultas sebanyak 1 rangkap" example_title: "Fotokopi Ijazah"

Downloads last month
27
Safetensors
Model size
110M params
Tensor type
F32
Inference Examples
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated) instead.

Model tree for betajuned/IndoLEM_bert_10kali

Finetuned
(368)
this model