| import json | |
| from typing import Any, Dict, List, Tuple | |
| import datasets | |
| logger = datasets.logging.get_logger(__name__) | |
| _DESCRIPTION = ( | |
| "書籍『大規模言語モデル入門』で使用する、「AI王」コンペティションのQAデータセットです。" | |
| "GitHub リポジトリ cl-tohoku/quiz-datasets で公開されているデータセットを利用しています。" | |
| ) | |
| _HOMEPAGE = "https://sites.google.com/view/project-aio/dataset/" | |
| _LICENSE = ( | |
| "本データセットに含まれる一部のクイズ問題の著作権は abc/EQIDEN 実行委員会に帰属するものであり、" | |
| "これらのクイズ問題は本書における使用許諾を得ているものです。" | |
| "本データセットに含まれる一部のクイズ問題は株式会社キュービックおよび株式会社カプリティオに依頼し作成したものであり、" | |
| "これらのクイズ問題は クリエイティブ・コモンズ表示・継承ライセンス 4.0 (CC BY-SA 4.0) ライセンスの下に提供されています。" | |
| "本データセットにパッセージとして付与されている Wikipedia のコンテンツは、" | |
| "クリエイティブ・コモンズ表示・継承ライセンス 3.0 (CC BY-SA 3.0) および GNU 自由文書ライセンス (GFDL) の下に配布されているものです。" | |
| f"クイズ問題のライセンスについて、詳細は {_HOMEPAGE} を参照してください。" | |
| ) | |
| _URLS = { | |
| "train": "https://jaqket.s3.ap-northeast-1.amazonaws.com/data/aio_02/aio_02_train.jsonl", | |
| "dev": "https://jaqket.s3.ap-northeast-1.amazonaws.com/data/aio_02/aio_02_dev_v1.0.jsonl", | |
| } | |
| class Aio(datasets.GeneratorBasedBuilder): | |
| def _info(self) -> datasets.DatasetInfo: | |
| return datasets.DatasetInfo( | |
| description=_DESCRIPTION, | |
| features=datasets.Features( | |
| { | |
| "qid": datasets.Value("string"), | |
| "competition": datasets.Value("string"), | |
| "timestamp": datasets.Value("string"), | |
| "section": datasets.Value("string"), | |
| "number": datasets.Value("int32"), | |
| "original_question": datasets.Value("string"), | |
| "original_answer": datasets.Value("string"), | |
| "original_additional_info": datasets.Value("string"), | |
| "question": datasets.Value("string"), | |
| "answers": datasets.features.Sequence(datasets.Value("string")), | |
| } | |
| ), | |
| homepage=_HOMEPAGE, | |
| license=_LICENSE, | |
| ) | |
| def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]: | |
| downloaded_files = dl_manager.download_and_extract(_URLS) | |
| return [ | |
| datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepath": downloaded_files["train"]}), | |
| datasets.SplitGenerator(name=datasets.Split.VALIDATION, gen_kwargs={"filepath": downloaded_files["dev"]}), | |
| ] | |
| def _generate_examples(self, filepath: str) -> Tuple[str, Dict[str, Any]]: | |
| logger.info(f"generating examples from {filepath}") | |
| _key = 0 | |
| with open(filepath, "r", encoding="utf-8") as f: | |
| for line in f: | |
| line = line.strip() | |
| if not line: | |
| continue | |
| data = json.loads(line) | |
| yield _key, data | |
| _key += 1 | |