metadata

language: ca
license: apache-2.0
tags:
  - català
  - corpus
  - text
  - span-masking
  - projecte-aina
  - wiki
  - notícies
size_categories:
  - 100K<n<1M

Parlabé: corpus de frases en català (500K)

Aquest dataset conté 1.000.000 frases correctes en català obtingudes a partir dels datasets públics TeCla v2 (notícies) i CaWikiTC (Viquipèdia catalana), provinents del projecte AINA.

Les frases s’han netejat i filtrat per garantir qualitat:

Eliminació d’espais duplicats
Separació en frases amb nltk.sent_tokenize
Longitud entre 7 i 40 paraules
Eliminació de frases amb caràcters no catalans o erronis

Ús principal

Aquest corpus s'ha utilitzat com a entrenament per preentrenament amb span masking sobre el model mt5-base adaptat al català, dins del projecte Parlabé.

Format

Fitxer únic de text pla (.txt), amb una frase per línia: