metadata

license: cc-by-sa-4.0
task_categories:
  - text-generation
language:
  - en
  - ja
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: main
        path: imatrix_sample.txt
      - split: mini
        path: imatrix_samples_mini.txt
      - split: aozora
        path: random_aozora_clean.txt
      - split: gutenberg
        path: random_gutenberg.txt
      - split: wiki_ja
        path: random_wiki_ja.txt
      - split: wiki_en
        path: random_wiki_en.txt

Dataset Card for Dataset Name

日英LLM向けのimatrix蒸留用データセットです。既存のデータセットとしてはTFMC/imatrix-dataset-for-japanese-llmがありますが、テキストの品質が低いように感じたので、青空文庫、日英Wikipedia,Project Gutenbergよりデータをシャッフルして作成しました。

Dataset Sources

fujiki/wiki40b_ja

globis-university/aozorabunko-clean

manu/project_gutenberg

blo05/cleaned_wiki_en_80-100

Uses

llama-imatrix -m /path/to/model-file/original-f16.gguf -f imatrix_sample.txt