Commit
·
9d035d8
1
Parent(s):
9fa51cd
Update README.md
Browse files
README.md
CHANGED
|
@@ -10,6 +10,7 @@ metrics:
|
|
| 10 |
- ベースモデル：cl-tohoku/bert-base-japanese-whole-word-masking
|
| 11 |
- データセット：tyqiangz/multilingual-sentiments
|
| 12 |
- バッチサイズ: 16固定
|
|
|
|
| 13 |
- Optunaでハイパーパラメータ探索
|
| 14 |
- 学習率スケジュールのタイプ(lr_scheduler_type): constant, linear, cosine
|
| 15 |
- 学習率(learning rate): 1e-6 ~ 1e-4
|
|
|
|
| 10 |
- ベースモデル：cl-tohoku/bert-base-japanese-whole-word-masking
|
| 11 |
- データセット：tyqiangz/multilingual-sentiments
|
| 12 |
- バッチサイズ: 16固定
|
| 13 |
+
- オプティマイザ: adafactor
|
| 14 |
- Optunaでハイパーパラメータ探索
|
| 15 |
- 学習率スケジュールのタイプ(lr_scheduler_type): constant, linear, cosine
|
| 16 |
- 学習率(learning rate): 1e-6 ~ 1e-4
|