eyepyon's picture
Upload folder using huggingface_hub
e2c0480 verified
---
license: llama3
base_model: elyza/Llama-3-ELYZA-JP-8B
tags:
- japanese
- legal
- judicial-exam
- 司法試験
- fine-tuned
- llama
- peft
- lora
language:
- ja
datasets:
- custom-judicial-exam-dataset
---
# 司法試験特化日本語LLM
## モデル概要
このモデルはelyza/Llama-3-ELYZA-JP-8Bをベースに、日本の司法試験問題でファインチューニングした特化モデルです。
## 特徴
- **ベースモデル**: elyza/Llama-3-ELYZA-JP-8B
- **特化分野**: 日本の司法試験(憲法、民法、刑法等)
- **言語**: 日本語
- **ファインチューニング手法**: QLoRA (Quantized Low-Rank Adaptation)
## 学習情報
- **学習データ数**: 60件
- **エポック数**: 2
- **学習時間**: 0:01:09.425663
- **LoRA ランク**: 8
- **学習率**: 5e-05
## 使用方法
### LoRAアダプター版(eyepyon/judicial-exam-llama3-jp_v2-lora-v2)
```python
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
base_model = AutoModelForCausalLM.from_pretrained("elyza/Llama-3-ELYZA-JP-8B")
tokenizer = AutoTokenizer.from_pretrained("elyza/Llama-3-ELYZA-JP-8B")
model = PeftModel.from_pretrained(base_model, "eyepyon/judicial-exam-llama3-jp_v2-lora-v2")
inputs = tokenizer("司法試験問題:", return_tensors="pt")
outputs = model.generate(**inputs, max_length=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)
```
### マージ済みモデル版(eyepyon/judicial-exam-llama3-jp_v2-merged-v2)
```python
from transformers import AutoTokenizer, AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("eyepyon/judicial-exam-llama3-jp_v2-merged-v2")
tokenizer = AutoTokenizer.from_pretrained("eyepyon/judicial-exam-llama3-jp_v2-merged-v2")
inputs = tokenizer("司法試験問題:", return_tensors="pt")
outputs = model.generate(**inputs, max_length=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(response)
```
## 注意事項
- このモデルは教育・研究目的で作成されています
- 実際の司法試験や法的判断には使用しないでください
- 出力結果は参考程度に留めてください
## ライセンス
ベースモデルのLlama 3ライセンスに準拠します。
---