bunpo_phi4 / README.md
if001's picture
Upload dataset
35b9b89 verified
metadata
dataset_info:
  features:
    - name: text
      dtype: string
    - name: pattern
      dtype: int64
    - name: id
      dtype: int64
  splits:
    - name: train
      num_bytes: 14185042
      num_examples: 125181
  download_size: 6391933
  dataset_size: 14185042
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
language:
  - ja

phi4で以下の53の文法パターン × 2364vocab を生成し、フィルタリングを行っています。

0, "です/だ (肯定文)",
1, "ではありません/じゃない (否定文)",
3, "〜ます (動詞の丁寧形)",
4, "〜ません (動詞の否定形)",
5, "〜たい (希望・願望)",
6, "〜ている (進行形)",
7, "〜てください (依頼)",
8, "〜てもいいですか (許可)",
9, "〜なければなりません/〜なきゃいけない (義務)",
10, "〜でしょう/〜だろう (推測)",
11, "〜が好きです/嫌いです (好み)",
12, "〜と思います (意見・思考)",
13, "〜から/〜ので (理由)",
14, "〜のが好きです/嫌いです (動作の好み)",
15, "〜でしょうか (丁寧な質問)",
16, "〜てしまう (完了・後悔)",
17, "〜ながら (同時進行)",
18, "〜ば/〜たら (仮定形)",
19, "〜ておく (準備)",
20, "〜ようにする (努力・習慣)",
21, "〜そうだ (伝聞・推量)",
22, "〜ように言う/頼む (依頼・命令)",
23, "〜みたい/〜ようだ (比喩・推測)",
24, "〜らしい (伝聞・推測)",
25, "〜ことがある (経験)",
26, "〜ために (目的)",
27, "〜に違いない (確信)",
28, "〜かもしれない (可能性)",
29, "〜ばよかった (後悔)",
30, "〜にくい/〜やすい (難易度)",
31, "〜ことにする/ことになる (決定・予定)",
32, "〜ば〜ほど (条件)",
33, "〜てくる/〜ていく (変化・継続)",
34, "〜させる (使役形)",
35, "〜ても (譲歩)",
36, "〜わけだ (理由・結論)",
37, "〜わけではない (否定)",
38, "〜わけがない (強い否定)",
39, "〜とは限らない (例外)",
40, "〜ものだ/ものではない (常識・一般論)",
41, "〜という (説明・定義)",
42, "〜に過ぎない (軽視・控えめ)",
43, "〜ないことはない (弱い肯定)",
44, "〜に違いない (強い推測)",
45, "〜に対して (対比・対象)",
46, "〜だけに (理由)",
47, "〜たとたん (瞬間)",
48, "〜おそれがある (可能性・危険性)",
49, "〜に限らず (範囲の拡大)",
50, "〜かねない (悪い結果の可能性)",
51, "〜次第 (状況に応じて)",
52, "〜ない限り (条件の制約)",
53, "〜ものの (逆説)"

文長
mean: 31.131641383277014, std: 10.78088994034686, min: 5, max: 59