README.md

---
license: mit
language:
- ko
base_model:
- klue/bert-base
---
# 🍊 SapBERT-Ko-EN

- 한국어 모델을 이용한 **SapBERT**(Self-alignment pretraining for BERT)입니다.
- 한·영 의료 용어 사전인 KOSTOM을 사용해 한국어 용어와 영어 용어를 정렬했습니다.
- 참고: [SapBERT](https://aclanthology.org/2021.naacl-main.334.pdf), [Original Code](https://github.com/cambridgeltl/sapbert)

## 1. SapBERT-KO-EN
- **SapBERT**는 수많은 의료 동의어를 동일한 의미로 처리하기 위한 사전 학습 방법론입니다.
- Multi-Similarity Loss를 이용해 동일한 의료 코드를 지닌 용어 간의 유사도를 키우는 방식으로 학습합니다.
- **SapBERT-KO-EN**는 한·영 혼용체로 이루어진 한국 의료 기록을 처리하기 위해 한·영 의료 용어를 정렬한 모델입니다.


[Github](https://github.com/snumin44/SapBERT-KO-EN)