|
--- |
|
dataset_info: |
|
features: |
|
- name: id |
|
dtype: string |
|
- name: image |
|
dtype: image |
|
- name: conversations |
|
list: |
|
- name: role |
|
dtype: string |
|
- name: content |
|
dtype: string |
|
splits: |
|
- name: test |
|
num_bytes: 629990325.9 |
|
num_examples: 6000 |
|
- name: train |
|
num_bytes: 6367091015.0 |
|
num_examples: 60000 |
|
download_size: 28233309806 |
|
dataset_size: 6997081340.9 |
|
configs: |
|
- config_name: default |
|
data_files: |
|
- split: train |
|
path: data/train-* |
|
- split: test |
|
path: data/test-* |
|
--- |
|
Nagase-Kotono/Table-VQA-ko(https://huggingface.co/datasets/Nagase-Kotono/Table-VQA-ko) 데이터셋을 보기 좋게 바꿈 |
|
|
|
싱글턴인 경우에는, "이 이미지의 내용에 대해서 자세히 설명해주세요" 라는 질문으로 자동 변경했으니 참고 |
|
|
|
추가적으로, 원본 데이터에서 single turn 기준 데이터 format이 이상하게 되어 있는 경우가 많아서 조금 수정하긴 했는데 찾지 못한 케이스들이 아직 많이 남아 있을 거라 그 부분은 collator 상에서 직접 제외하거나 DataCollatorForCompletionOnlyLM 사용하면 알아서 제외해줌 |