Hugging Face's logo

Datasets:
danish-foundation-models
/
danish-dynaword

Tasks:
Text Generation
Modalities:
Image
Text
Formats:
parquet
Sub-tasks:
language-modeling
Languages:
Danish
Size:
1M - 10M
Libraries:
Datasets
Dask
License:
Dataset card Data Studio Files
xet
Community
74
kris927b commited on
Commit
3ffc702
·
1 Parent(s): 8d056ab

Fixing error in create.py script. Did not handle case correctly.

Browse files
Files changed (7) hide show
  1. data/danske-taler/create.py +16 -5
  2. data/danske-taler/danske-taler.log +56 -103
  3. data/danske-taler/danske-taler.md +3 -8
  4. data/danske-taler/danske-taler.parquet +2 -2
  5. data/danske-taler/descriptive_stats.json +1 -1
  6. descriptive_stats.json +1 -1
  7. uv.lock +1 -1
data/danske-taler/create.py CHANGED
@@ -40,7 +40,7 @@ from datasets import Dataset
40
  from transformers import AutoTokenizer
41
  import pandas as pd
42
  import requests
43
- from bs4 import BeautifulSoup
44
  from tqdm import tqdm
45
 
46
  logger = logging.getLogger(__name__)
@@ -176,11 +176,22 @@ def fetch_speech_content(
176
  if speech_div:
177
  # Iterate over the children of the found div
178
  for child_div in speech_div.children: # type: ignore
179
- # Check if the child is a tag (i.e., a div element)
180
  if child_div.name == "div": # type: ignore
181
- # Extract and print the text content, followed by a newline for paragraph formatting
182
- speech += child_div.get_text(strip=True)
183
- speech += "\n"
 
 
 
 
 
 
 
 
 
 
 
 
184
 
185
  return (license_div.text if license_div else None, speech)
186
 
 
40
  from transformers import AutoTokenizer
41
  import pandas as pd
42
  import requests
43
+ from bs4 import BeautifulSoup, NavigableString
44
  from tqdm import tqdm
45
 
46
  logger = logging.getLogger(__name__)
 
176
  if speech_div:
177
  # Iterate over the children of the found div
178
  for child_div in speech_div.children: # type: ignore
 
179
  if child_div.name == "div": # type: ignore
180
+ current_paragraph = []
181
+ for content in child_div.contents: # type: ignore
182
+ if isinstance(content, NavigableString):
183
+ # Append text content
184
+ current_paragraph.append(str(content).strip())
185
+ elif content.name == "br":
186
+ # If a <br> is encountered, join and print the current paragraph, then reset
187
+ if current_paragraph:
188
+ speech += "".join(current_paragraph)
189
+ speech += "\n" # Add a newline for paragraph break
190
+ current_paragraph = []
191
+ # Print any remaining text in the current_paragraph list
192
+ if current_paragraph:
193
+ speech += "".join(current_paragraph)
194
+ speech += "\n" # Add a newline for paragraph break
195
 
196
  return (license_div.text if license_div else None, speech)
197
 
data/danske-taler/danske-taler.log CHANGED
@@ -109,106 +109,59 @@ Creating parquet from Arrow format: 100%|█████████████
109
  2025-06-24 13:19:38,325 - INFO - Removed 2188 documents without a cc0 license
110
  2025-06-24 13:19:38,326 - INFO - Removed 0 duplicate ids
111
  2025-06-24 13:19:38,332 - INFO - Removed 1 rows with empty text
112
- 2025-06-24 13:19:38,345 - INFO - Removed 2 rows with duplicate text
113
- 2025-06-24 13:49:36,605 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
114
- 2025-06-24 13:49:36,685 - INFO - Unique licenses:
115
- 2025-06-24 13:49:36,685 - INFO - None
116
- 2025-06-24 13:49:36,685 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
117
- 2025-06-24 13:49:36,685 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
118
- 2025-06-24 13:49:36,685 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
119
- 2025-06-24 13:49:36,686 - INFO - Materialet er beskyttet af ophavsret
120
- 2025-06-24 13:49:36,686 - INFO - Materialet er beskyttet af ophavsret
121
- 2025-06-24 13:49:36,686 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
122
- 2025-06-24 13:49:36,686 - INFO - Materialet er beskyttet af ophavsret
123
- 2025-06-24 13:49:36,686 - INFO - Materialet er omfattet af ophavsret
124
- 2025-06-24 13:49:36,686 - INFO - Materialet et beskyttet af ophavsret
125
- 2025-06-24 13:49:36,686 - INFO - cc0
126
- 2025-06-24 13:49:36,689 - INFO - Removed 2188 documents without a cc0 license
127
- 2025-06-24 13:49:36,689 - INFO - Removed 0 duplicate ids
128
- 2025-06-24 13:49:36,698 - INFO - Removed 1 rows with empty text
129
- 2025-06-24 13:49:36,710 - INFO - Removed 2 rows with duplicate text
130
- 2025-06-24 13:51:09,660 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
131
- 2025-06-24 13:51:09,743 - INFO - Unique licenses:
132
- 2025-06-24 13:51:09,743 - INFO - None
133
- 2025-06-24 13:51:09,744 - INFO - Materialet er beskyttet af ophavsret
134
- 2025-06-24 13:51:09,744 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
135
- 2025-06-24 13:51:09,744 - INFO - cc0
136
- 2025-06-24 13:51:09,744 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
137
- 2025-06-24 13:51:09,744 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
138
- 2025-06-24 13:51:09,744 - INFO - Materialet er beskyttet af ophavsret
139
- 2025-06-24 13:51:09,744 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
140
- 2025-06-24 13:51:09,744 - INFO - Materialet er beskyttet af ophavsret
141
- 2025-06-24 13:51:09,744 - INFO - Materialet et beskyttet af ophavsret
142
- 2025-06-24 13:51:09,744 - INFO - Materialet er omfattet af ophavsret
143
- 2025-06-24 13:51:09,747 - INFO - Removed 2188 documents without a cc0 license
144
- 2025-06-24 13:51:09,748 - INFO - Removed 0 duplicate ids
145
- 2025-06-24 13:51:09,756 - INFO - Removed 1 rows with empty text
146
- 2025-06-24 13:51:09,769 - INFO - Removed 2 rows with duplicate text
147
- 2025-06-24 14:10:52,815 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
148
- 2025-06-24 14:10:52,897 - INFO - Unique licenses:
149
- 2025-06-24 14:10:52,897 - INFO - None
150
- 2025-06-24 14:10:52,897 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
151
- 2025-06-24 14:10:52,897 - INFO - cc0
152
- 2025-06-24 14:10:52,897 - INFO - Materialet er beskyttet af ophavsret
153
- 2025-06-24 14:10:52,897 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
154
- 2025-06-24 14:10:52,897 - INFO - Materialet er beskyttet af ophavsret
155
- 2025-06-24 14:10:52,897 - INFO - Materialet et beskyttet af ophavsret
156
- 2025-06-24 14:10:52,897 - INFO - Materialet er omfattet af ophavsret
157
- 2025-06-24 14:10:52,897 - INFO - Materialet er beskyttet af ophavsret
158
- 2025-06-24 14:10:52,897 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
159
- 2025-06-24 14:10:52,897 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
160
- 2025-06-24 14:10:52,899 - INFO - Removed 2188 documents without a cc0 license
161
- 2025-06-24 14:10:52,901 - INFO - Removed 0 duplicate ids
162
- 2025-06-24 14:10:52,907 - INFO - Removed 1 rows with empty text
163
- 2025-06-24 14:10:52,919 - INFO - Removed 2 rows with duplicate text
164
- 2025-06-24 14:18:09,019 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
165
- 2025-06-24 14:18:09,103 - INFO - Unique licenses:
166
- 2025-06-24 14:18:09,103 - INFO - None
167
- 2025-06-24 14:18:09,103 - INFO - cc0
168
- 2025-06-24 14:18:09,103 - INFO - Materialet er omfattet af ophavsret
169
- 2025-06-24 14:18:09,103 - INFO - Materialet er beskyttet af ophavsret
170
- 2025-06-24 14:18:09,103 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
171
- 2025-06-24 14:18:09,103 - INFO - Materialet er beskyttet af ophavsret
172
- 2025-06-24 14:18:09,103 - INFO - Materialet et beskyttet af ophavsret
173
- 2025-06-24 14:18:09,103 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
174
- 2025-06-24 14:18:09,103 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
175
- 2025-06-24 14:18:09,103 - INFO - Materialet er beskyttet af ophavsret
176
- 2025-06-24 14:18:09,103 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
177
- 2025-06-24 14:18:09,106 - INFO - Removed 2188 documents without a cc0 license
178
- 2025-06-24 14:18:09,107 - INFO - Removed 0 duplicate ids
179
- 2025-06-24 14:18:09,116 - INFO - Removed 1 rows with empty text
180
- 2025-06-24 14:18:09,129 - INFO - Removed 2 rows with duplicate text
181
- 2025-06-24 14:18:57,130 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
182
- 2025-06-24 14:18:57,198 - INFO - Unique licenses:
183
- 2025-06-24 14:18:57,198 - INFO - None
184
- 2025-06-24 14:18:57,198 - INFO - Materialet er omfattet af ophavsret
185
- 2025-06-24 14:18:57,198 - INFO - cc0
186
- 2025-06-24 14:18:57,198 - INFO - Materialet er beskyttet af ophavsret
187
- 2025-06-24 14:18:57,198 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
188
- 2025-06-24 14:18:57,198 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
189
- 2025-06-24 14:18:57,198 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
190
- 2025-06-24 14:18:57,198 - INFO - Materialet er beskyttet af ophavsret
191
- 2025-06-24 14:18:57,198 - INFO - Materialet er beskyttet af ophavsret
192
- 2025-06-24 14:18:57,199 - INFO - Materialet et beskyttet af ophavsret
193
- 2025-06-24 14:18:57,199 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
194
- 2025-06-24 14:18:57,200 - INFO - Removed 2188 documents without a cc0 license
195
- 2025-06-24 14:18:57,201 - INFO - Removed 0 duplicate ids
196
- 2025-06-24 14:18:57,208 - INFO - Removed 1 rows with empty text
197
- 2025-06-24 14:18:57,221 - INFO - Removed 2 rows with duplicate text
198
- 2025-06-24 14:20:44,147 - INFO - Loading dataset from /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
199
- 2025-06-24 14:20:44,231 - INFO - Unique licenses:
200
- 2025-06-24 14:20:44,232 - INFO - None
201
- 2025-06-24 14:20:44,232 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
202
- 2025-06-24 14:20:44,232 - INFO - Materialet et beskyttet af ophavsret
203
- 2025-06-24 14:20:44,232 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
204
- 2025-06-24 14:20:44,232 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
205
- 2025-06-24 14:20:44,232 - INFO - Materialet er beskyttet af ophavsret
206
- 2025-06-24 14:20:44,232 - INFO - cc0
207
- 2025-06-24 14:20:44,232 - INFO - Materialet er omfattet af ophavsret
208
- 2025-06-24 14:20:44,232 - INFO - Materialet er beskyttet af ophavsret
209
- 2025-06-24 14:20:44,232 - INFO - Materialet er beskyttet af ophavsret
210
- 2025-06-24 14:20:44,232 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
211
- 2025-06-24 14:20:44,234 - INFO - Removed 2188 documents without a cc0 license
212
- 2025-06-24 14:20:44,235 - INFO - Removed 0 duplicate ids
213
- 2025-06-24 14:20:44,242 - INFO - Removed 1 rows with empty text
214
- 2025-06-24 14:20:44,255 - INFO - Removed 2 rows with duplicate text
 
109
  2025-06-24 13:19:38,325 - INFO - Removed 2188 documents without a cc0 license
110
  2025-06-24 13:19:38,326 - INFO - Removed 0 duplicate ids
111
  2025-06-24 13:19:38,332 - INFO - Removed 1 rows with empty text
112
+ 2025-06-24 13:19:38,345 - INFO - Removed 2 rows with duplicate text2025-06-24 14:44:36,089 - INFO - Downloading speeches and saving to /Users/kristianjensen/Documents/danish-dynaword/data/danske-taler/tmp/danske-taler-all.parquet
113
+ 2025-06-24 14:44:36,089 - INFO - Fetching all speeches from Danske Taler API
114
+ 2025-06-24 14:45:43,887 - INFO - Found 5107 speeches
115
+ 2025-06-24 14:46:53,929 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
116
+ 2025-06-24 14:46:54,627 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
117
+ 2025-06-24 14:46:55,824 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
118
+ 2025-06-24 14:46:58,015 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/niels-hoejlund-pedersens-translokationstale-2020
119
+ 2025-06-24 14:47:34,505 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
120
+ 2025-06-24 14:47:35,215 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
121
+ 2025-06-24 14:47:36,514 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
122
+ 2025-06-24 14:47:38,725 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/katrine-lykke-pedersens-tale-til-unge-om-haab-i-en-coronatid
123
+ 2025-06-24 14:47:39,093 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
124
+ 2025-06-24 14:47:39,798 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
125
+ 2025-06-24 14:47:41,013 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
126
+ 2025-06-24 14:47:43,253 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/anastacia-halkens-tale-til-unge-om-haab-i-en-coronatid
127
+ 2025-06-24 14:47:44,528 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
128
+ 2025-06-24 14:47:45,272 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
129
+ 2025-06-24 14:47:46,492 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
130
+ 2025-06-24 14:47:48,691 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/thomas-vinterbergs-tale-ved-modtagelsen-af-oscar-prisen
131
+ 2025-06-24 14:48:26,340 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
132
+ 2025-06-24 14:48:27,037 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
133
+ 2025-06-24 14:48:28,248 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
134
+ 2025-06-24 14:48:30,496 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/pernille-vermunds-tale-ved-folketingets-aabningsdebat-2021
135
+ 2025-06-24 14:48:33,382 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
136
+ 2025-06-24 14:48:34,125 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
137
+ 2025-06-24 14:48:35,339 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
138
+ 2025-06-24 14:48:37,570 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/pernille-vermunds-tale-ved-nye-borgerliges-aarsmoede-2021
139
+ 2025-06-24 14:48:37,940 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
140
+ 2025-06-24 14:48:38,663 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
141
+ 2025-06-24 14:48:39,884 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
142
+ 2025-06-24 14:48:42,101 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/mette-thiesens-tale-ved-nye-borgerliges-aarsmoede-2021
143
+ 2025-06-24 14:48:42,357 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
144
+ 2025-06-24 14:48:43,097 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
145
+ 2025-06-24 14:48:44,340 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
146
+ 2025-06-24 14:48:46,560 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/peter-seier-christensens-tale-ved-nye-borgerliges-aarsmoede-2021
147
+ 2025-06-24 14:50:22,691 - INFO - Attempt 1 failed. Retrying in 0.50 seconds...
148
+ 2025-06-24 14:50:23,446 - INFO - Attempt 2 failed. Retrying in 1.00 seconds...
149
+ 2025-06-24 14:50:24,662 - INFO - Attempt 3 failed. Retrying in 2.00 seconds...
150
+ 2025-06-24 14:50:26,911 - INFO - Failed to fetch license after 3 attempts: 500 Server Error: Internal Server Error for url: https://www.dansketaler.dk/tale/silke-ena-svares-tale-ved-demonstrationen-for-born-og-unge
151
+ 2025-06-24 15:02:20,338 - INFO - Saving 5107 speeches to dataset
152
+ 2025-06-24 15:02:20,503 - INFO - Unique licenses:
153
+ 2025-06-24 15:02:20,503 - INFO - None
154
+ 2025-06-24 15:02:20,503 - INFO - cc0
155
+ 2025-06-24 15:02:20,503 - INFO - Materialet et beskyttet af ophavsret
156
+ 2025-06-24 15:02:20,503 - INFO - Materialet er beskyttet af ophavsret
157
+ 2025-06-24 15:02:20,503 - INFO - Materialet er omfattet af ophavsret
158
+ 2025-06-24 15:02:20,503 - INFO - Manuskript taget fra ft.dk. med tilladelse fra udgiver.
159
+ 2025-06-24 15:02:20,503 - INFO - Materialet er beskyttet af ophavsret
160
+ 2025-06-24 15:02:20,503 - INFO - Manuskript taget fra ft.dk med tilladelse fra udgiver.
161
+ 2025-06-24 15:02:20,503 - INFO - Materialet er beskyttet af ophavsret
162
+ 2025-06-24 15:02:20,503 - INFO - Materialet er beskyttet af ophavsret, da talen ikke er holdt i offentligheden.
163
+ 2025-06-24 15:02:20,503 - INFO - Manuskript tilsendt af taler og udgivet af Danske Taler med tilladelse fra taler.
164
+ 2025-06-24 15:02:20,506 - INFO - Removed 2191 documents without a cc0 license
165
+ 2025-06-24 15:02:20,508 - INFO - Removed 0 duplicate ids
166
+ 2025-06-24 15:02:20,516 - INFO - Removed 2 rows with empty text
167
+ 2025-06-24 15:02:20,529 - INFO - Removed 2 rows with duplicate text
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
data/danske-taler/danske-taler.md CHANGED
@@ -31,6 +31,8 @@ The goal of the dataset is to collect historical and timely speeches and make th
31
 
32
  Learn more about danske taler by reading their [about us](https://www.dansketaler.dk/om-os) page.
33
 
 
 
34
  ## Dataset Description
35
 
36
 
@@ -50,18 +52,11 @@ An example from the dataset looks as follows.
50
  <!-- START-SAMPLE -->
51
  ```py
52
  {
 
53
  "text": "Tyske landsmænd og -kvinder !\n\nSyv år er kort tid, en brøkdel af en enkel menneskelig normaltilværel[...]",
54
  "source": "danske-taler",
55
- "id": "danske-taler_281",
56
  "added": "2025-06-24",
57
  "created": "1940-01-30, 1940-01-30",
58
- "license_information": "Materialet er fri af ophavsret",
59
- "domain": "Spoken",
60
- "metadata": {
61
- "source-pretty": "Danske Taler"
62
- },
63
- "license": "cc0",
64
- "__index_level_0__": 3,
65
  "token_count": 3020
66
  }
67
  ```
 
31
 
32
  Learn more about danske taler by reading their [about us](https://www.dansketaler.dk/om-os) page.
33
 
34
+ > NOTE: Danske-Taler is also collecting [sermons](https://www.dansketaler.dk/praedikener), but these are not included in this dataset.
35
+
36
  ## Dataset Description
37
 
38
 
 
52
  <!-- START-SAMPLE -->
53
  ```py
54
  {
55
+ "id": "danske-taler_281",
56
  "text": "Tyske landsmænd og -kvinder !\n\nSyv år er kort tid, en brøkdel af en enkel menneskelig normaltilværel[...]",
57
  "source": "danske-taler",
 
58
  "added": "2025-06-24",
59
  "created": "1940-01-30, 1940-01-30",
 
 
 
 
 
 
 
60
  "token_count": 3020
61
  }
62
  ```
data/danske-taler/danske-taler.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:97b161fd92188709e34f52eb71e19e479cd231cd63d44c40f8f1d45f1630cd0f
3
- size 16236765
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d007e606854f868febcf61a513302f7299ff35222fe9de487d17b9baaaedf248
3
+ size 16089529
data/danske-taler/descriptive_stats.json CHANGED
@@ -2,5 +2,5 @@
2
  "number_of_samples": 2912,
3
  "average_document_length": 9228.645260989011,
4
  "number_of_tokens": 8809004,
5
- "revision": "16931a4cca4569bf00335846bc85c549ea59a82a"
6
  }
 
2
  "number_of_samples": 2912,
3
  "average_document_length": 9228.645260989011,
4
  "number_of_tokens": 8809004,
5
+ "revision": "8d056aba9953ef0cf4c402ccb9deff745d8307af"
6
  }
descriptive_stats.json CHANGED
@@ -2,5 +2,5 @@
2
  "number_of_samples": 891348,
3
  "average_document_length": 15083.994534121353,
4
  "number_of_tokens": 4369589385,
5
- "revision": "16931a4cca4569bf00335846bc85c549ea59a82a"
6
  }
 
2
  "number_of_samples": 891348,
3
  "average_document_length": 15083.994534121353,
4
  "number_of_tokens": 4369589385,
5
+ "revision": "8d056aba9953ef0cf4c402ccb9deff745d8307af"
6
  }
uv.lock CHANGED
@@ -257,7 +257,7 @@ wheels = [
257
 
258
  [[package]]
259
  name = "dynaword"
260
- version = "1.2.0"
261
  source = { editable = "." }
262
  dependencies = [
263
  { name = "datasets" },
 
257
 
258
  [[package]]
259
  name = "dynaword"
260
+ version = "1.2.1"
261
  source = { editable = "." }
262
  dependencies = [
263
  { name = "datasets" },