README.md

metadata

dataset_info:
  features:
    - name: id
      dtype: string
    - name: image
      dtype: image
    - name: conversations
      list:
        - name: role
          dtype: string
        - name: content
          dtype: string
  splits:
    - name: test
      num_bytes: 629990325.9
      num_examples: 6000
    - name: train
      num_bytes: 6367091015
      num_examples: 60000
  download_size: 28233309806
  dataset_size: 6997081340.9
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*

Nagase-Kotono/Table-VQA-ko(https://huggingface.co/datasets/Nagase-Kotono/Table-VQA-ko) 데이터셋을 보기 좋게 바꿈

싱글턴인 경우에는, "이 이미지의 내용에 대해서 자세히 설명해주세요" 라는 질문으로 자동 변경했으니 참고

추가적으로, 원본 데이터에서 single turn 기준 데이터 format이 이상하게 되어 있는 경우가 많아서 조금 수정하긴 했는데 찾지 못한 케이스들이 아직 많이 남아 있을 거라 그 부분은 collator 상에서 직접 제외하거나 DataCollatorForCompletionOnlyLM 사용하면 알아서 제외해줌