Chang-Su commited on
Commit
eb0df1a
·
verified ·
1 Parent(s): a5131e0

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +56 -0
README.md CHANGED
@@ -19,3 +19,59 @@ configs:
19
  - split: train
20
  path: data/train-*
21
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
19
  - split: train
20
  path: data/train-*
21
  ---
22
+
23
+ -----
24
+
25
+ # **en-wiki-250508**
26
+
27
+ ## **데이터셋 요약 (Dataset Summary)**
28
+
29
+ 본 데이터셋은 위키미디어(Wikimedia)에서 제공하는 영어 위키피디아(Wikipedia)의 최신 덤프 파일(2025년 5월 8일 기준)을 기반으로 구축되었습니다. 최신 정보가 반영된 영어 자연어 처리(NLP) 연구 및 모델 학습을 위해 문장 단위로 분할하고, 일정 길이의 세그먼트로 재구성하여 사용 편의성을 높였습니다.
30
+
31
+ * **데이터 소스:** [영어 위키피디아 덤프](https://dumps.wikimedia.org/enwiki/)
32
+ * **지식 기준일 (Knowledge Cutoff):** 2025년 5월 8일 05:00 (UTC)
33
+ * **언어:** 영어 (en)
34
+
35
+ ## **데이터셋 구축 (Dataset Creation)**
36
+
37
+ 최신 영어 위키피디아 데이터를 활용하고자 하는 필요성에 의해 직접 데이터를 정제하고 분할하여 본 데이터셋을 구축했습니다. 위키미디어의 원본 덤프 데이터를 다운로드하여 불필요한 마크업과 태그를 제거한 후, 자연어 문장을 기준으로 텍스트를 분할했습니다.
38
+
39
+ ### **전처리 (Preprocessing)**
40
+
41
+ * **분할 단위 (Chunking Strategy):** 문장 (sentence)
42
+ * **세그먼트 크기 (Segment Size):** 10개 문장 (`--seg_size 10`)
43
+ * **스트라이드 (Stride):** 1개 문장 (`--stride 1`)
44
+
45
+ 각 데이터 샘플은 10개의 연속된 문장으로 구성되며, 다음 샘플은 1개 문장씩 겹치도록 구성하여 문맥 정보의 손실을 최소화하고 데이터의 양을 증강했습니다.
46
+
47
+ ## **데이터 구조 (Data Structure)**
48
+
49
+ ### **데이터 필드 (Data Fields)**
50
+
51
+ * `text` (string): 전처리 과정을 거친 텍스트 데이터. 10개의 문장으로 구성된 하나의 문자열입니다.
52
+
53
+ ## **사용 방법 (How to Use)**
54
+
55
+ ```python
56
+ from datasets import load_dataset
57
+
58
+ dataset = load_dataset("Chang-Su/en-wiki-250508")
59
+ print(dataset['train'][0])
60
+ ```
61
+
62
+ ## **라이선스 (License)**
63
+
64
+ 원본 위키피디아 데이터는 국제 라이선스([CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/))를 따릅니다. 본 데이터셋 또한 동일한 라이선스 정책을 준수합니다.
65
+
66
+ ## **인용 정보 (Citation)**
67
+
68
+ 본 데이터셋을 연구에 사용하실 경우, 다음과 같이 인용을 부탁드립니다.
69
+
70
+ ```bibtex
71
+ @dataset{
72
+ author = "ChangSu Choi",
73
+ title = "en-wiki-250508",
74
+ year = "2025",
75
+ url = "https://huggingface.co/datasets/Chang-Su/en-wiki-250508"
76
+ }
77
+ ```