Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,20 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: mit
|
3 |
+
language:
|
4 |
+
- ko
|
5 |
+
base_model:
|
6 |
+
- klue/bert-base
|
7 |
+
---
|
8 |
+
# ๐ SapBERT-Ko-EN
|
9 |
+
|
10 |
+
- ํ๊ตญ์ด ๋ชจ๋ธ์ ์ด์ฉํ **SapBERT**(Self-alignment pretraining for BERT)์
๋๋ค.
|
11 |
+
- ํยท์ ์๋ฃ ์ฉ์ด ์ฌ์ ์ธ KOSTOM์ ์ฌ์ฉํด ํ๊ตญ์ด ์ฉ์ด์ ์์ด ์ฉ์ด๋ฅผ ์ ๋ ฌํ์ต๋๋ค.
|
12 |
+
- ์ฐธ๊ณ : [SapBERT](https://aclanthology.org/2021.naacl-main.334.pdf), [Original Code](https://github.com/cambridgeltl/sapbert)
|
13 |
+
|
14 |
+
## 1. SapBERT-KO-EN
|
15 |
+
- **SapBERT**๋ ์๋ง์ ์๋ฃ ๋์์ด๋ฅผ ๋์ผํ ์๋ฏธ๋ก ์ฒ๋ฆฌํ๊ธฐ ์ํ ์ฌ์ ํ์ต ๋ฐฉ๋ฒ๋ก ์
๋๋ค.
|
16 |
+
- Multi-Similarity Loss๋ฅผ ์ด์ฉํด ๋์ผํ ์๋ฃ ์ฝ๋๋ฅผ ์ง๋ ์ฉ์ด ๊ฐ์ ์ ์ฌ๋๋ฅผ ํค์ฐ๋ ๋ฐฉ์์ผ๋ก ํ์ตํฉ๋๋ค.
|
17 |
+
- **SapBERT-KO-EN**๋ ํยท์ ํผ์ฉ์ฒด๋ก ์ด๋ฃจ์ด์ง ํ๊ตญ ์๋ฃ ๊ธฐ๋ก์ ์ฒ๋ฆฌํ๊ธฐ ์ํด ํยท์ ์๋ฃ ์ฉ์ด๋ฅผ ์ ๋ ฌํ ๋ชจ๋ธ์
๋๋ค.
|
18 |
+
|
19 |
+
|
20 |
+
[Github](https://github.com/snumin44/SapBERT-KO-EN)
|