Added WMT preprocessing and raw highlight outputs

setup/.gitattributes

@@ -5,4 +5,7 @@ wmt23/nllb_3b/wmttest2023_xcomet-xl_nld.json filter=lfs diff=lfs merge=lfs -text
 wmt23/nllb_600m/wmttest2023_xcomet-xxl_nld.json filter=lfs diff=lfs merge=lfs -text
 wmt23/nllb_600m/wmttest2023_xcomet-xl_ita.json filter=lfs diff=lfs merge=lfs -text
 wmt23/nllb_600m/wmttest2023_xcomet-xxl_ita.json filter=lfs diff=lfs merge=lfs -text
-wmt23/nllb_600m/wmttest2023_xcomet-xl_nld.json filter=lfs diff=lfs merge=lfs -text
+wmt23/nllb_600m/wmttest2023_xcomet-xl_nld.json filter=lfs diff=lfs merge=lfs -text
+processed/orig_segment_df.csv filter=lfs diff=lfs merge=lfs -text
+processed/orig_doc_df.csv filter=lfs diff=lfs merge=lfs -text
+processed/filtered_segment_df.csv filter=lfs diff=lfs merge=lfs -text

setup/processed/filtered_doc_ids.txt

@@ -0,0 +1,351 @@
+independent.263962
+aaronsgiles.110351251990540992
+AdrianRiskin.110351010944540000
+ashanti-development-working-with-farming-communities-in-ghana.110350775326024000
+ATLeagle.110351251845843008
+charles_perkins.110350296663756000
+eli_oat.110350998292172992
+gray17.110350774902091008
+JEmphatically.110347872551807008
+krinkle.110351251103976000
+LMG3864.110347872133370000
+manlycoffee.110351250115060992
+mo8it.110349823511154000
+mplusk.110350515499888000
+null.110347877604440992
+Splodgenoodles.110347870538880000
+jewelry-2-en_0718681-53
+doc_1798
+nm-105
+nm-115
+nm-117
+nm-119
+nm-12
+nm-139
+nm-144
+nm-153
+nm-154
+nm-161
+nm-163
+nm-166
+nm-177
+nm-180
+nm-199
+nm-20
+nm-200
+nm-214
+nm-223
+nm-224
+nm-228
+nm-231
+nm-235
+nm-236
+nm-240
+nm-241
+nm-251
+nm-267
+nm-268
+nm-272
+nm-273
+nm-274
+nm-277
+nm-279
+nm-285
+nm-287
+nm-289
+nm-296
+nm-298
+nm-302
+nm-303
+nm-304
+nm-318
+nm-321
+nm-324
+nm-328
+nm-334
+nm-337
+nm-340
+nm-341
+nm-352
+nm-358
+nm-36
+nm-366
+nm-369
+nm-376
+nm-379
+nm-387
+nm-391
+nm-395
+nm-400
+nm-404
+nm-408
+nm-411
+nm-418
+nm-420
+nm-429
+nm-438
+nm-54
+nm-55
+nm-56
+nm-64
+nm-72
+nm-82
+nm-83
+nm-84
+ns-115
+ns-117
+ns-119
+ns-12
+ns-125
+ns-143
+ns-144
+ns-153
+ns-161
+ns-163
+ns-166
+ns-177
+ns-180
+ns-20
+ns-200
+ns-214
+ns-223
+ns-224
+ns-228
+ns-231
+ns-235
+ns-240
+ns-241
+ns-251
+ns-267
+ns-268
+ns-272
+ns-273
+ns-274
+ns-277
+ns-279
+ns-285
+ns-287
+ns-289
+ns-296
+ns-298
+ns-302
+ns-303
+ns-318
+ns-321
+ns-324
+ns-328
+ns-334
+ns-337
+ns-340
+ns-341
+ns-351
+ns-352
+ns-358
+ns-36
+ns-366
+ns-369
+ns-370
+ns-376
+ns-380
+ns-387
+ns-391
+ns-395
+ns-400
+ns-404
+ns-408
+ns-411
+ns-418
+ns-420
+ns-429
+ns-438
+ns-55
+ns-56
+ns-64
+ns-72
+ns-83
+ns-84
+rm-105
+rm-109
+rm-117
+rm-12
+rm-126
+rm-131
+rm-138
+rm-141
+rm-142
+rm-143
+rm-144
+rm-152
+rm-153
+rm-161
+rm-163
+rm-166
+rm-176
+rm-177
+rm-178
+rm-18
+rm-181
+rm-188
+rm-193
+rm-199
+rm-20
+rm-200
+rm-202
+rm-210
+rm-213
+rm-214
+rm-228
+rm-231
+rm-232
+rm-234
+rm-235
+rm-236
+rm-246
+rm-249
+rm-250
+rm-267
+rm-273
+rm-279
+rm-282
+rm-287
+rm-289
+rm-294
+rm-298
+rm-301
+rm-302
+rm-303
+rm-304
+rm-310
+rm-321
+rm-324
+rm-325
+rm-326
+rm-328
+rm-333
+rm-335
+rm-340
+rm-341
+rm-352
+rm-353
+rm-358
+rm-36
+rm-368
+rm-385
+rm-39
+rm-395
+rm-397
+rm-400
+rm-406
+rm-407
+rm-408
+rm-414
+rm-420
+rm-433
+rm-438
+rm-54
+rm-55
+rm-56
+rm-66
+rm-67
+rm-68
+rm-72
+rm-74
+rm-76
+rm-82
+rm-83
+rm-84
+rm-95
+rs-117
+rs-141
+rs-142
+rs-144
+rs-148
+rs-152
+rs-153
+rs-154
+rs-163
+rs-166
+rs-176
+rs-178
+rs-181
+rs-183
+rs-184
+rs-188
+rs-20
+rs-200
+rs-205
+rs-210
+rs-213
+rs-214
+rs-228
+rs-231
+rs-232
+rs-235
+rs-250
+rs-267
+rs-268
+rs-272
+rs-273
+rs-276
+rs-279
+rs-282
+rs-283
+rs-294
+rs-301
+rs-302
+rs-304
+rs-321
+rs-324
+rs-326
+rs-328
+rs-333
+rs-341
+rs-351
+rs-352
+rs-36
+rs-368
+rs-385
+rs-39
+rs-395
+rs-400
+rs-406
+rs-420
+rs-433
+rs-438
+rs-56
+rs-68
+rs-72
+rs-84
+doc10
+doc12
+doc13
+doc15
+doc16
+doc17
+doc2
+doc21
+doc22
+doc25
+doc26
+doc27
+doc29
+doc3
+doc30
+doc31
+doc32
+doc33
+doc35
+doc37
+doc38
+doc39
+doc4
+doc41
+doc43
+doc44
+doc45
+doc47
+doc5
+doc50
+doc6
+doc7
+doc9

setup/processed/filtered_doc_num_segments_per_doc.txt

@@ -0,0 +1,351 @@
+3
+5
+3
+5
+4
+3
+6
+4
+3
+3
+2
+7
+5
+3
+3
+3
+2
+2
+8
+5
+5
+5
+6
+7
+4
+5
+7
+7
+4
+4
+4
+4
+7
+8
+8
+4
+8
+4
+5
+4
+7
+4
+5
+8
+7
+7
+5
+6
+5
+7
+6
+6
+9
+5
+9
+9
+6
+4
+7
+8
+6
+8
+8
+6
+8
+4
+8
+8
+4
+5
+5
+5
+8
+6
+4
+6
+8
+6
+4
+7
+6
+8
+7
+6
+4
+8
+7
+8
+4
+5
+7
+8
+6
+8
+5
+5
+5
+8
+4
+7
+4
+5
+8
+4
+4
+4
+4
+7
+8
+4
+8
+4
+5
+4
+8
+8
+7
+7
+8
+5
+8
+5
+8
+8
+7
+9
+5
+9
+9
+7
+4
+7
+6
+7
+8
+6
+8
+5
+8
+8
+5
+5
+5
+4
+6
+8
+4
+6
+4
+6
+8
+6
+5
+7
+6
+9
+7
+6
+4
+8
+8
+4
+5
+7
+5
+8
+8
+7
+5
+6
+6
+5
+4
+8
+7
+7
+4
+7
+5
+8
+4
+4
+8
+4
+4
+4
+6
+5
+5
+9
+8
+8
+8
+7
+7
+4
+5
+4
+9
+5
+8
+4
+6
+5
+7
+7
+5
+6
+7
+5
+9
+6
+6
+8
+4
+7
+8
+7
+6
+8
+6
+8
+6
+7
+7
+8
+6
+4
+6
+5
+5
+6
+6
+4
+6
+4
+4
+7
+3
+6
+7
+6
+4
+8
+7
+8
+4
+5
+4
+8
+7
+5
+7
+8
+6
+8
+7
+5
+7
+7
+5
+4
+7
+5
+6
+4
+3
+6
+4
+6
+6
+4
+5
+8
+8
+4
+5
+8
+4
+4
+4
+8
+7
+6
+7
+7
+8
+5
+6
+4
+4
+4
+6
+9
+4
+6
+7
+8
+9
+6
+6
+7
+4
+5
+4
+5
+6
+4
+5
+5
+5
+6
+4
+8
+5
+7
+6
+8
+5
+8
+8
+8
+8
+8
+7
+8
+8
+9
+8
+8
+8
+6
+8
+8
+8
+8
+9
+8
+8
+9
+8
+8
+8
+8
+8
+7
+8
+8
+7
+8
+8

setup/processed/filtered_segment_df.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:478b51008b25fd1a2b76b714eab90cb65de735b44b9e53929cdcecd9ffd6e1bf
+size 5033737

setup/processed/manual_errors/README.md

@@ -0,0 +1,3 @@
+# Manual Errors
+
+`texts_orig` files correspond to the segments that were manually modified to introduce critical errors. `texts_edited` are the corresponding segments with errors introduced.

setup/processed/manual_errors/texts_edited.ita

@@ -0,0 +1,14 @@
+Le correlazioni hanno evidenziato una scarsa concordanza tra le relazioni della madre e le osservazioni dell'esaminatore sul temperamento del neonato a 11 mesi.
+Nel gruppo di somministrazione congiunta, il delirio è stato rilevato significativamente più spesso (p < 0,001), l' intensità del dolore è stata misurata significativamente più bassa al momento della dimissione (p < 0,001), la capacità di trasferimento è stata lievemente migliorata di più (p = 0,04), e la funzione renale è stata osservata più frequentemente (p = 0,04).
+Sono state riscontrate differenze significative per quanto riguarda le principali diagnosi, le procedure chirurgiche eseguite, i tassi di complicazioni, l' incidenza di ulcere da pressione e delirio, le revisioni operative o la durata della permanenza in ospedale.
+L'ultimo di noi è un esempio facile e canonico di dad-ification. Joel usa le sue abilità e la capacità di mettere in atto (estremi) atti di violenza per svolgere un compito che è codificato come "cura".
+92 neonati VPT, nati nel periodo 2007-2009, età gestazionale < 32 settimane e/ o peso alla nascita di 1500 g, sono stati valutati longitudinalmente includendo dati di base neonatali, socioeconomici (SES), indice di sviluppo mentale a 2 anni (MDI, Bayley Scales II), composto di elaborazione mentale a 5 anni (MPC, screening linguistico per bambini in età prescolare).
+L'ecografia al punto di cura della medicina di emergenza (EmPoCU) è un concetto convincente.
+Una volta acquisita la padronanza di EmPoCU, i medici di emergenza dovrebbero essere in grado di curare in modo indipendente ed efficiente i loro pazienti utilizzando una varietà di competenze PoCU.
+Non sono d'accordo sul fatto che #Mastodonte sia difficile da impostare. Comune, in realtà non è così difficile. Ma è più difficile trovare persone da seguire e costruire la tua cronologia. Vorrei che ci fosse una raccomandazione su "chi seguire" in qualche modo.
+Sono vicina... solo che non so se sono vicina a studiare per 2 mesi, ma penso di potercela fare.
+Il programma Connecting and Reflecting Experience (CRE) è un intervento di genitorialità transdiagnostico, bi-generazionale, basato sul gruppo, focalizzato sulla mentalizzazione, sviluppato per smantellare la trasmissione intergenerazionale del trauma e sostenere relazioni di attaccamento sicure attraverso lo spettro dello sviluppo all'interno di una comunità con risorse insufficienti.
+I neonati prematuri nel gruppo di cura del canguro hanno raggiunto l'alimentazione orale completa a 29,06±8,20 giorni dopo la nascita, mentre i neonati nel gruppo di cura standard hanno raggiunto l'alimentazione orale completa a 44,60±21,90 giorni.
+Nicholas sta lavorando con gli agricoltori per incrementare l'uso di pesticidi e allo stesso tempo trovare modi per affrontare i problemi causati dai cambiamenti climatici e dai parassiti come l'esercito di autunno, che può devastare le colture di mais.
+Carolina e Alice muoiono, North muore, Hank muore, Marcus ha successo, ma ho lasciato che Connor lo uccidesse, perché immagino di aver fatto una specie di gioco di ruolo in cui Connor è il cattivo e il risultato è realistico.
+Il numero di risultati contrassegnati differisce notevolmente tra gli intervalli di riferimento confrontati, ad eccezione della chinasi proteica.

setup/processed/manual_errors/texts_edited.nld

@@ -0,0 +1,14 @@
+Correlaties lieten een geringe overeenstemming zien tussen de meldingen van de moeder en de waarnemingen van de onderzoeker van het temperament van het kind na 11 maanden.
+In de gelijktijdig behandelde groep werd significant vaker delirium gedetecteerd (p < 0,001), significant lagere pijnintensiteit werd gemeten op het moment van ontslag (p < 0,001), het overdraagvermogen was licht meer verbeterd (p = 0,04), en de nierfunctie werd vaker waargenomen (p = 0,04).
+Er werden significante verschillen gevonden met betrekking tot de belangrijkste diagnoses, uitgevoerde chirurgische ingrepen, het aantal complicaties, de incidentie van drukzweren en delirium, operatieve herzieningen of de duur van het verblijf in het ziekenhuis.
+Het laatste van ons is een eenvoudig en canoniek voorbeeld van dad-ification. Joel gebruikt zijn vaardigheden en vermogen om (extreme) gewelddadige daden uit te voeren om een taak te volbrengen die is gecodeerd als "zorg".
+92 VPT-zuigelingen, geboren in 2007-2009, zwangerschapsleeftijd < 32 weken en/of geboortegewicht van 1500 g, werden longitudinaal beoordeeld, inclusief basisgegevens over neonatale, sociaal-economische (SES), 2-jarige Mental Developmental Index (MDI, Bayley Scales II)en 5-jarige Mental Processing Composite (MPC, Language Screening for Preschoolers).
+Emergency Medicine Point-of-Care Ultrasound (EmPoCU) is een overtuigend concept.
+Zodra EmPoCU onder de knie is, moeten spoedeisende artsen in staat zijn om hun patiënten zelfstandig en efficiënt te verzorgen met behulp van een verscheidenheid aan PoCU-vaardigheden.
+Ik ben het er niet mee eens dat #Mastodont moeilijk op te zetten is. Gewoon, het is echt niet zo moeilijk. Maar het is moeilijker om mensen te vinden om te volgen en je tijdlijn op te bouwen. Ik wou dat er op de een of andere manier een "wie te volgen" aanbeveling was.
+Ik ben dichtbij... ik weet alleen niet of ik 2 maanden dichtbij studeer, maar ik denk dat ik het kan.
+Het Connecting and Reflecting Experience (CRE) -programma is een transdiagnostische, bi-generationele, groepsgebaseerde, mentaal gerichte ouderinterventie die is ontwikkeld om de intergenerationele overdracht van trauma's te ontmantelen en veilige gehechtheidsrelaties te ondersteunen over het ontwikkelingsspectrum binnen een gemeenschap met te weinig middelen.
+Premature baby' s in de kangaroo zorggroep bereikten volledige orale voeding op 29,06 ± 8,20 dagen na de geboorte, terwijl baby' s in de standaard zorggroep volledige orale voeding bereikten op 44,60 ± 21,90 dagen.
+Nicholas werkt samen met boeren om het gebruik van pesticiden te verhogen en tegelijkertijd manieren te vinden om de problemen aan te pakken die worden veroorzaakt door klimaatverandering en plagen zoals de herfstworm, die maïsgewassen kunnen verwoesten.
+Carolin en Alice sterven (ik ben slecht in controle), North sterft, Hank sterft, Marcus is succesvol, maar ik laat Connor hem doden, omdat ik denk dat ik een soort rollenspel deed waar Connor de schurk is en de uitkomst realistisch is.
+Het aantal gemarkeerde bevindingen verschilde aanzienlijk tussen de vergeleken referentieperioden, met uitzondering van protein kinase.

setup/processed/manual_errors/texts_orig.ita

@@ -0,0 +1,14 @@
+Le correlazioni hanno evidenziato una scarsa concordanza tra le relazioni della madre e le osservazioni dell'esaminatore sul temperamento del neonato a 12 mesi.
+Nel gruppo di somministrazione congiunta, il delirio è stato rilevato significativamente più spesso (p < 0,001), l' intensità del dolore è stata misurata significativamente più bassa al momento della dimissione (p < 0,001), la capacità di trasferimento è stata chiaramente migliorata di più (p = 0,04), e la funzione renale è stata osservata più frequentemente (p = 0,04).
+Non sono state riscontrate differenze significative per quanto riguarda le principali diagnosi, le procedure chirurgiche eseguite, i tassi di complicazioni, l' incidenza di ulcere da pressione e delirio, le revisioni operative o la durata della permanenza in ospedale.
+The Last of Us è un esempio facile e canonico di dad-ification. Joel usa le sue abilità e la capacità di mettere in atto (estremi) atti di violenza per svolgere un compito che è codificato come "cura".
+92 neonati VPT, nati nel periodo 2007-2009, età gestazionale < 32 settimane e/ o peso alla nascita di 1500 g, sono stati valutati longitudinalmente includendo dati di base neonatali, socioeconomici (SES), indice di sviluppo mentale a 2 anni (MDI, Bayley Scales II), composto di elaborazione mentale a 5 anni (MPC, Kaufman-Assessment Battery for Children) e screening linguistico per bambini in età prescolare.
+L'ecografia al punto di cura della medicina di emergenza (EMPoCUS) è un concetto convincente.
+Una volta acquisita la padronanza di EMPoCUS, i medici di emergenza dovrebbero essere in grado di curare in modo indipendente ed efficiente i loro pazienti utilizzando una varietà di competenze PoCUS.
+Non sono d'accordo sul fatto che #Mastodon sia difficile da impostare. Comune, in realtà non è così difficile. Ma è più difficile trovare persone da seguire e costruire la tua cronologia. Vorrei che ci fosse una raccomandazione su "chi seguire" in qualche modo.
+Sono vicina... solo che non so se sono vicina a studiare per 2 mesi.
+Il programma Connecting and Reflecting Experience (CARE) è un intervento di genitorialità transdiagnostico, bi-generazionale, basato sul gruppo, focalizzato sulla mentalizzazione, sviluppato per smantellare la trasmissione intergenerazionale del trauma e sostenere relazioni di attaccamento sicure attraverso lo spettro dello sviluppo all'interno di una comunità con risorse insufficienti.
+I neonati prematuri nel gruppo di cura del canguro hanno raggiunto l'alimentazione orale completa a 29,20±8,06 giorni dopo la nascita, mentre i neonati nel gruppo di cura standard hanno raggiunto l'alimentazione orale completa a 44,60±21,90 giorni.
+Nicholas sta lavorando con gli agricoltori per ridurre l'uso di pesticidi e allo stesso tempo trovare modi per affrontare i problemi causati dai cambiamenti climatici e dai parassiti come l'esercito di autunno, che può devastare le colture di mais.
+Kara e Alice muoiono, North muore, Hank muore, Marcus ha successo, ma ho lasciato che Connor lo uccidesse, perché immagino di aver fatto una specie di gioco di ruolo in cui Connor è il cattivo e il risultato è realistico.
+Il numero di risultati contrassegnati differisce notevolmente tra gli intervalli di riferimento confrontati, ad eccezione della fosfatasi alcalina.

setup/processed/manual_errors/texts_orig.nld

@@ -0,0 +1,14 @@
+Correlaties lieten een geringe overeenstemming zien tussen de meldingen van de moeder en de waarnemingen van de onderzoeker van het temperament van het kind na 12 maanden.
+In de gelijktijdig behandelde groep werd significant vaker delirium gedetecteerd (p < 0,001), significant lagere pijnintensiteit werd gemeten op het moment van ontslag (p < 0,001), het overdraagvermogen was duidelijk meer verbeterd (p = 0,04), en de nierfunctie werd vaker waargenomen (p = 0,04).
+Er werden geen significante verschillen gevonden met betrekking tot de belangrijkste diagnoses, uitgevoerde chirurgische ingrepen, het aantal complicaties, de incidentie van drukzweren en delirium, operatieve herzieningen of de duur van het verblijf in het ziekenhuis.
+The Last of Us is een eenvoudig en canoniek voorbeeld van dad-ification. Joel gebruikt zijn vaardigheden en vermogen om (extreme) gewelddadige daden uit te voeren om een taak te volbrengen die is gecodeerd als "zorg".
+92 VPT-zuigelingen, geboren in 2007-2009, zwangerschapsleeftijd < 32 weken en/of geboortegewicht van 1500 g, werden longitudinaal beoordeeld, inclusief basisgegevens over neonatale, sociaal-economische (SES), 2-jarige Mental Developmental Index (MDI, Bayley Scales II), 5-jarige Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children) en Language Screening voor kleuters.
+Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is een overtuigend concept.
+Zodra EMPoCUS onder de knie is, moeten spoedeisende artsen in staat zijn om hun patiënten zelfstandig en efficiënt te verzorgen met behulp van een verscheidenheid aan PoCUS-vaardigheden.
+Ik ben het er niet mee eens dat #Mastodon moeilijk op te zetten is. Gewoon, het is echt niet zo moeilijk. Maar het is moeilijker om mensen te vinden om te volgen en je tijdlijn op te bouwen. Ik wou dat er op de een of andere manier een "wie te volgen" aanbeveling was.
+Ik ben dichtbij... ik weet alleen niet of ik 2 maanden dichtbij studeer.
+Het Connecting and Reflecting Experience (CARE) -programma is een transdiagnostische, bi-generationele, groepsgebaseerde, mentaal gerichte ouderinterventie die is ontwikkeld om de intergenerationele overdracht van trauma's te ontmantelen en veilige gehechtheidsrelaties te ondersteunen over het ontwikkelingsspectrum binnen een gemeenschap met te weinig middelen.
+Premature baby' s in de kangaroo zorggroep bereikten volledige orale voeding op 29,20 ± 8,06 dagen na de geboorte, terwijl baby' s in de standaard zorggroep volledige orale voeding bereikten op 44,60 ± 21,90 dagen.
+Nicholas werkt samen met boeren om het gebruik van pesticiden te verminderen en tegelijkertijd manieren te vinden om de problemen aan te pakken die worden veroorzaakt door klimaatverandering en plagen zoals de herfstworm, die maïsgewassen kunnen verwoesten.
+Kara en Alice sterven (ik ben slecht in controle), North sterft, Hank sterft, Marcus is succesvol, maar ik laat Connor hem doden, omdat ik denk dat ik een soort rollenspel deed waar Connor de schurk is en de uitkomst realistisch is.
+Het aantal gemarkeerde bevindingen verschilde aanzienlijk tussen de vergeleken referentieperioden, met uitzondering van alkalische fosfatase.

setup/processed/manual_errors/xcomet_texts_edited_ita.jsonl

@@ -0,0 +1,368 @@
+{
+    "/home/p305238/qe4pe/data/texts_edited.ita": [
+        {
+            "src": "Correlations evidenced low concordance between maternal reports and examiner observations of infant temperament at 12 months.",
+            "mt": "Le correlazioni hanno evidenziato una scarsa concordanza tra le relazioni della madre e le osservazioni dell'esaminatore sul temperamento del neonato a 11 mesi.",
+            "COMET": 0.6779760122299194,
+            "errors": [
+                {
+                    "text": "relazioni della",
+                    "confidence": 0.4361247420310974,
+                    "severity": "major",
+                    "start": 63,
+                    "end": 79
+                },
+                {
+                    "text": "11 mesi",
+                    "confidence": 0.8850731253623962,
+                    "severity": "critical",
+                    "start": 151,
+                    "end": 159
+                }
+            ]
+        },
+        {
+            "src": "In the co-management group, delirium was detected significantly more often (p < 0.001), significantly lower pain intensities were measured at the time of discharge (p < 0.001), transfer ability had clearly improved more (p = 0.04), and renal function was more frequently noted (p = 0.04).",
+            "mt": "Nel gruppo di somministrazione congiunta, il delirio è stato rilevato significativamente più spesso (p < 0,001), l' intensità del dolore è stata misurata significativamente più bassa al momento della dimissione (p < 0,001), la capacità di trasferimento è stata lievemente migliorata di più (p = 0,04), e la funzione renale è stata osservata più frequentemente (p = 0,04).",
+            "COMET": 0.5885874032974243,
+            "errors": [
+                {
+                    "text": "di somministrazione congiunta",
+                    "confidence": 0.5303083658218384,
+                    "severity": "minor",
+                    "start": 10,
+                    "end": 40
+                },
+                {
+                    "text": "l'",
+                    "confidence": 0.5966345071792603,
+                    "severity": "minor",
+                    "start": 112,
+                    "end": 115
+                },
+                {
+                    "text": "dolore",
+                    "confidence": 0.5755634903907776,
+                    "severity": "minor",
+                    "start": 129,
+                    "end": 136
+                },
+                {
+                    "text": "trasferimento",
+                    "confidence": 0.4327307343482971,
+                    "severity": "major",
+                    "start": 238,
+                    "end": 252
+                },
+                {
+                    "text": "lieve",
+                    "confidence": 0.5168075561523438,
+                    "severity": "major",
+                    "start": 260,
+                    "end": 266
+                },
+                {
+                    "text": "migliorata di",
+                    "confidence": 0.5220403671264648,
+                    "severity": "major",
+                    "start": 271,
+                    "end": 285
+                }
+            ]
+        },
+        {
+            "src": "No significant differences were found with respect to principal diagnoses, surgical procedures performed, complication rates, pressure ulcer and delirium incidence, operative revisions, or length of inpatient stay.",
+            "mt": "Sono state riscontrate differenze significative per quanto riguarda le principali diagnosi, le procedure chirurgiche eseguite, i tassi di complicazioni, l' incidenza di ulcere da pressione e delirio, le revisioni operative o la durata della permanenza in ospedale.",
+            "COMET": 0.5027387142181396,
+            "errors": [
+                {
+                    "text": "Sono state riscontrate",
+                    "confidence": 0.6691238880157471,
+                    "severity": "critical",
+                    "start": 0,
+                    "end": 22
+                },
+                {
+                    "text": "differenze significative",
+                    "confidence": 0.4531102478504181,
+                    "severity": "critical",
+                    "start": 23,
+                    "end": 47
+                },
+                {
+                    "text": "'",
+                    "confidence": 0.544500470161438,
+                    "severity": "minor",
+                    "start": 154,
+                    "end": 155
+                }
+            ]
+        },
+        {
+            "src": "The Last of Us is an easy and canonical example of dad-ification. Joel uses his skills and ability to enact (extreme) acts of violence to accomplish a task that is coded as \"caring.\"",
+            "mt": "L'ultimo di noi è un esempio facile e canonico di dad-ification. Joel usa le sue abilità e la capacità di mettere in atto (estremi) atti di violenza per svolgere un compito che è codificato come \"cura\".",
+            "COMET": 0.6696702241897583,
+            "errors": [
+                {
+                    "text": "L'ultimo di noi",
+                    "confidence": 0.6750796437263489,
+                    "severity": "major",
+                    "start": 0,
+                    "end": 15
+                },
+                {
+                    "text": "dad-ification",
+                    "confidence": 0.801793098449707,
+                    "severity": "major",
+                    "start": 49,
+                    "end": 63
+                },
+                {
+                    "text": "cura",
+                    "confidence": 0.8145545125007629,
+                    "severity": "major",
+                    "start": 196,
+                    "end": 200
+                }
+            ]
+        },
+        {
+            "src": "92 VPT infants, born 2007-2009, gestational age<32 weeks and/or birthweight of 1500 g, were assessed longitudinally including basic neonatal, socio-economic (SES), 2-year Mental Developmental Index (MDI, Bayley Scales II), 5-year Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children), and Language Screening for Preschoolers data.",
+            "mt": "92 neonati VPT, nati nel periodo 2007-2009, età gestazionale < 32 settimane e/ o peso alla nascita di 1500 g, sono stati valutati longitudinalmente includendo dati di base neonatali, socioeconomici (SES), indice di sviluppo mentale a 2 anni (MDI, Bayley Scales II), composto di elaborazione mentale a 5 anni (MPC, screening linguistico per bambini in età prescolare).",
+            "COMET": 0.8523813486099243,
+            "errors": [
+                {
+                    "text": "zionale < 32 settimane e/ o",
+                    "confidence": 0.7981284260749817,
+                    "severity": "minor",
+                    "start": 53,
+                    "end": 80
+                },
+                {
+                    "text": "composto",
+                    "confidence": 0.6774753928184509,
+                    "severity": "minor",
+                    "start": 265,
+                    "end": 274
+                },
+                {
+                    "text": "elaborazione",
+                    "confidence": 0.4216359853744507,
+                    "severity": "major",
+                    "start": 278,
+                    "end": 290
+                }
+            ]
+        },
+        {
+            "src": "Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is a convincing concept.",
+            "mt": "L'ecografia al punto di cura della medicina di emergenza (EmPoCU) è un concetto convincente.",
+            "COMET": 0.6032220125198364,
+            "errors": [
+                {
+                    "text": "'",
+                    "confidence": 0.4065074026584625,
+                    "severity": "major",
+                    "start": 1,
+                    "end": 2
+                },
+                {
+                    "text": "ografia al punto di cura della medicina di emergenza",
+                    "confidence": 0.6053794026374817,
+                    "severity": "major",
+                    "start": 4,
+                    "end": 56
+                },
+                {
+                    "text": "EmPoCU",
+                    "confidence": 0.699621856212616,
+                    "severity": "major",
+                    "start": 58,
+                    "end": 64
+                },
+                {
+                    "text": "un concetto convincente",
+                    "confidence": 0.740372896194458,
+                    "severity": "major",
+                    "start": 67,
+                    "end": 91
+                }
+            ]
+        },
+        {
+            "src": "Once mastery of EMPoCUS is achieved, emergency physicians should be able to independently and efficiently care for their patients using a variety of PoCUS skills.",
+            "mt": "Una volta acquisita la padronanza di EmPoCU, i medici di emergenza dovrebbero essere in grado di curare in modo indipendente ed efficiente i loro pazienti utilizzando una varietà di competenze PoCU.",
+            "COMET": 0.9808490872383118,
+            "errors": [
+                {
+                    "text": "PoCU",
+                    "confidence": 0.5020492076873779,
+                    "severity": "minor",
+                    "start": 192,
+                    "end": 197
+                }
+            ]
+        },
+        {
+            "src": "I don't agree that #Mastodon is difficult to setup. Common, it's really not that hard. But it's more difficult to find people to follow and build up your timeline. I wish there was a \"who to follow\" recommendation somehow.",
+            "mt": "Non sono d'accordo sul fatto che #Mastodonte sia difficile da impostare. Comune, in realtà non è così difficile. Ma è più difficile trovare persone da seguire e costruire la tua cronologia. Vorrei che ci fosse una raccomandazione su \"chi seguire\" in qualche modo.",
+            "COMET": 0.5864766836166382,
+            "errors": [
+                {
+                    "text": "#Mastodonte",
+                    "confidence": 0.7727954387664795,
+                    "severity": "major",
+                    "start": 32,
+                    "end": 44
+                },
+                {
+                    "text": "Comune",
+                    "confidence": 0.4695945978164673,
+                    "severity": "major",
+                    "start": 72,
+                    "end": 79
+                },
+                {
+                    "text": "cronologia",
+                    "confidence": 0.6660431623458862,
+                    "severity": "major",
+                    "start": 177,
+                    "end": 188
+                }
+            ]
+        },
+        {
+            "src": "I’m close... I just don’t know if I’m 2 months study close.",
+            "mt": "Sono vicina... solo che non so se sono vicina a studiare per 2 mesi, ma penso di potercela fare.",
+            "COMET": 0.792362630367279,
+            "errors": [
+                {
+                    "text": "sono vicina a studiare per",
+                    "confidence": 0.6008017659187317,
+                    "severity": "major",
+                    "start": 33,
+                    "end": 60
+                }
+            ]
+        },
+        {
+            "src": "The Connecting and Reflecting Experience (CARE) program is a transdiagnostic, bi-generational, group-based, mentalizing-focused parenting intervention developed to dismantle the intergenerational transmission of trauma and support secure attachment relationships across the developmental spectrum within an under-resourced community.",
+            "mt": "Il programma Connecting and Reflecting Experience (CRE) è un intervento di genitorialità transdiagnostico, bi-generazionale, basato sul gruppo, focalizzato sulla mentalizzazione, sviluppato per smantellare la trasmissione intergenerazionale del trauma e sostenere relazioni di attaccamento sicure attraverso lo spettro dello sviluppo all'interno di una comunità con risorse insufficienti.",
+            "COMET": 0.699126124382019,
+            "errors": [
+                {
+                    "text": "alità",
+                    "confidence": 0.4690934419631958,
+                    "severity": "minor",
+                    "start": 83,
+                    "end": 88
+                },
+                {
+                    "text": "diagnostico",
+                    "confidence": 0.4519588351249695,
+                    "severity": "minor",
+                    "start": 94,
+                    "end": 105
+                },
+                {
+                    "text": "mentalizzazione",
+                    "confidence": 0.728423535823822,
+                    "severity": "major",
+                    "start": 161,
+                    "end": 177
+                },
+                {
+                    "text": "smantellare",
+                    "confidence": 0.9259762167930603,
+                    "severity": "major",
+                    "start": 193,
+                    "end": 205
+                },
+                {
+                    "text": "sicure attraverso lo spettro dello sviluppo",
+                    "confidence": 0.7328442335128784,
+                    "severity": "minor",
+                    "start": 289,
+                    "end": 333
+                },
+                {
+                    "text": "in",
+                    "confidence": 0.45193320512771606,
+                    "severity": "minor",
+                    "start": 373,
+                    "end": 376
+                }
+            ]
+        },
+        {
+            "src": "Premature babies in the kangaroo care group reached full oral feeding at 29.20±8.06 days after birth, while babies in the standard care group reached full oral feeding at 44.60±21.90 days.",
+            "mt": "I neonati prematuri nel gruppo di cura del canguro hanno raggiunto l'alimentazione orale completa a 29,06±8,20 giorni dopo la nascita, mentre i neonati nel gruppo di cura standard hanno raggiunto l'alimentazione orale completa a 44,60±21,90 giorni.",
+            "COMET": 0.8451725244522095,
+            "errors": [
+                {
+                    "text": "di cura del canguro",
+                    "confidence": 0.8988191485404968,
+                    "severity": "major",
+                    "start": 30,
+                    "end": 50
+                }
+            ]
+        },
+        {
+            "src": "Nicholas is working with farmers to reduce pesticide use while finding ways to address the issues caused by climate change and pests such as fall armyworm, which can devastate maize crops.",
+            "mt": "Nicholas sta lavorando con gli agricoltori per incrementare l'uso di pesticidi e allo stesso tempo trovare modi per affrontare i problemi causati dai cambiamenti climatici e dai parassiti come l'esercito di autunno, che può devastare le colture di mais.",
+            "COMET": 0.5149324536323547,
+            "errors": [
+                {
+                    "text": "incrementare",
+                    "confidence": 0.6391258239746094,
+                    "severity": "critical",
+                    "start": 46,
+                    "end": 59
+                },
+                {
+                    "text": "'",
+                    "confidence": 0.5168745517730713,
+                    "severity": "major",
+                    "start": 61,
+                    "end": 62
+                },
+                {
+                    "text": "l'esercito di autunno",
+                    "confidence": 0.9331185817718506,
+                    "severity": "major",
+                    "start": 192,
+                    "end": 214
+                }
+            ]
+        },
+        {
+            "src": "Kara and Alice die (I am bad at controls), North dies, Hank dies, Marcus is successful, but I let Connor kill him, because I guess I was doing kind of a role-play where Connor is the villain and the outcome is realistic.",
+            "mt": "Carolina e Alice muoiono, North muore, Hank muore, Marcus ha successo, ma ho lasciato che Connor lo uccidesse, perché immagino di aver fatto una specie di gioco di ruolo in cui Connor è il cattivo e il risultato è realistico.",
+            "COMET": 0.6011781692504883,
+            "errors": [
+                {
+                    "text": "Carolina",
+                    "confidence": 0.5793616771697998,
+                    "severity": "critical",
+                    "start": 0,
+                    "end": 8
+                }
+            ]
+        },
+        {
+            "src": "The number of flagged findings differed notably between reference intervals compared, except for alkaline phosphatase.",
+            "mt": "Il numero di risultati contrassegnati differisce notevolmente tra gli intervalli di riferimento confrontati, ad eccezione della chinasi proteica.",
+            "COMET": 0.9051528573036194,
+            "errors": [
+                {
+                    "text": "sse",
+                    "confidence": 0.4045059382915497,
+                    "severity": "minor",
+                    "start": 29,
+                    "end": 32
+                }
+            ]
+        }
+    ]
+}

setup/processed/manual_errors/xcomet_texts_edited_nld.jsonl

@@ -0,0 +1,389 @@
+{
+    "/home/p305238/qe4pe/data/texts_edited.nld": [
+        {
+            "src": "Correlations evidenced low concordance between maternal reports and examiner observations of infant temperament at 12 months.",
+            "mt": "Correlaties lieten een geringe overeenstemming zien tussen de meldingen van de moeder en de waarnemingen van de onderzoeker van het temperament van het kind na 11 maanden.",
+            "COMET": 0.8599752187728882,
+            "errors": [
+                {
+                    "text": "11",
+                    "confidence": 0.4508620798587799,
+                    "severity": "critical",
+                    "start": 159,
+                    "end": 162
+                }
+            ]
+        },
+        {
+            "src": "In the co-management group, delirium was detected significantly more often (p < 0.001), significantly lower pain intensities were measured at the time of discharge (p < 0.001), transfer ability had clearly improved more (p = 0.04), and renal function was more frequently noted (p = 0.04).",
+            "mt": "In de gelijktijdig behandelde groep werd significant vaker delirium gedetecteerd (p < 0,001), significant lagere pijnintensiteit werd gemeten op het moment van ontslag (p < 0,001), het overdraagvermogen was licht meer verbeterd (p = 0,04), en de nierfunctie werd vaker waargenomen (p = 0,04).",
+            "COMET": 0.8293306827545166,
+            "errors": [
+                {
+                    "text": "overdraagvermogen",
+                    "confidence": 0.5259257555007935,
+                    "severity": "major",
+                    "start": 184,
+                    "end": 202
+                }
+            ]
+        },
+        {
+            "src": "No significant differences were found with respect to principal diagnoses, surgical procedures performed, complication rates, pressure ulcer and delirium incidence, operative revisions, or length of inpatient stay.",
+            "mt": "Er werden significante verschillen gevonden met betrekking tot de belangrijkste diagnoses, uitgevoerde chirurgische ingrepen, het aantal complicaties, de incidentie van drukzweren en delirium, operatieve herzieningen of de duur van het verblijf in het ziekenhuis.",
+            "COMET": 0.6922446489334106,
+            "errors": [
+                {
+                    "text": "Er werden",
+                    "confidence": 0.4853708744049072,
+                    "severity": "critical",
+                    "start": 0,
+                    "end": 9
+                },
+                {
+                    "text": "ren",
+                    "confidence": 0.5231034755706787,
+                    "severity": "minor",
+                    "start": 176,
+                    "end": 179
+                },
+                {
+                    "text": "herzieningen",
+                    "confidence": 0.8648554086685181,
+                    "severity": "minor",
+                    "start": 203,
+                    "end": 216
+                }
+            ]
+        },
+        {
+            "src": "The Last of Us is an easy and canonical example of dad-ification. Joel uses his skills and ability to enact (extreme) acts of violence to accomplish a task that is coded as \"caring.\"",
+            "mt": "Het laatste van ons is een eenvoudig en canoniek voorbeeld van dad-ification. Joel gebruikt zijn vaardigheden en vermogen om (extreme) gewelddadige daden uit te voeren om een taak te volbrengen die is gecodeerd als \"zorg\".",
+            "COMET": 0.6285519003868103,
+            "errors": [
+                {
+                    "text": "Het laatste van ons",
+                    "confidence": 0.9088313579559326,
+                    "severity": "major",
+                    "start": 0,
+                    "end": 19
+                },
+                {
+                    "text": "canoniek",
+                    "confidence": 0.5634236335754395,
+                    "severity": "major",
+                    "start": 39,
+                    "end": 48
+                },
+                {
+                    "text": "dad-ification",
+                    "confidence": 0.8745011687278748,
+                    "severity": "major",
+                    "start": 62,
+                    "end": 76
+                },
+                {
+                    "text": "",
+                    "confidence": 0.8665820956230164,
+                    "severity": "major",
+                    "start": 112,
+                    "end": 113
+                },
+                {
+                    "text": "\"zorg\".",
+                    "confidence": 0.7136563062667847,
+                    "severity": "minor",
+                    "start": 214,
+                    "end": 222
+                }
+            ]
+        },
+        {
+            "src": "92 VPT infants, born 2007-2009, gestational age<32 weeks and/or birthweight of 1500 g, were assessed longitudinally including basic neonatal, socio-economic (SES), 2-year Mental Developmental Index (MDI, Bayley Scales II), 5-year Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children), and Language Screening for Preschoolers data.",
+            "mt": "92 VPT-zuigelingen, geboren in 2007-2009, zwangerschapsleeftijd < 32 weken en/of geboortegewicht van 1500 g, werden longitudinaal beoordeeld, inclusief basisgegevens over neonatale, sociaal-economische (SES), 2-jarige Mental Developmental Index (MDI, Bayley Scales II)en 5-jarige Mental Processing Composite (MPC, Language Screening for Preschoolers).",
+            "COMET": 0.836189866065979,
+            "errors": [
+                {
+                    "text": "zwangerschap",
+                    "confidence": 0.9000111818313599,
+                    "severity": "minor",
+                    "start": 41,
+                    "end": 54
+                },
+                {
+                    "text": "leeftijd <",
+                    "confidence": 0.6060845851898193,
+                    "severity": "minor",
+                    "start": 55,
+                    "end": 65
+                },
+                {
+                    "text": "van",
+                    "confidence": 0.6389324069023132,
+                    "severity": "minor",
+                    "start": 96,
+                    "end": 100
+                },
+                {
+                    "text": "economische",
+                    "confidence": 0.5447405576705933,
+                    "severity": "minor",
+                    "start": 190,
+                    "end": 201
+                },
+                {
+                    "text": "SES",
+                    "confidence": 0.6159894466400146,
+                    "severity": "minor",
+                    "start": 203,
+                    "end": 206
+                },
+                {
+                    "text": "2-jarige Mental Developmental Index",
+                    "confidence": 0.6529739499092102,
+                    "severity": "minor",
+                    "start": 208,
+                    "end": 244
+                },
+                {
+                    "text": "es II)en",
+                    "confidence": 0.756058931350708,
+                    "severity": "minor",
+                    "start": 262,
+                    "end": 270
+                },
+                {
+                    "text": "posit",
+                    "confidence": 0.4269631505012512,
+                    "severity": "minor",
+                    "start": 301,
+                    "end": 306
+                }
+            ]
+        },
+        {
+            "src": "Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is a convincing concept.",
+            "mt": "Emergency Medicine Point-of-Care Ultrasound (EmPoCU) is een overtuigend concept.",
+            "COMET": 0.9849411249160767,
+            "errors": [
+                {
+                    "text": "Emergency Medicine",
+                    "confidence": 0.701888382434845,
+                    "severity": "minor",
+                    "start": 0,
+                    "end": 18
+                }
+            ]
+        },
+        {
+            "src": "Once mastery of EMPoCUS is achieved, emergency physicians should be able to independently and efficiently care for their patients using a variety of PoCUS skills.",
+            "mt": "Zodra EmPoCU onder de knie is, moeten spoedeisende artsen in staat zijn om hun patiënten zelfstandig en efficiënt te verzorgen met behulp van een verscheidenheid aan PoCU-vaardigheden.",
+            "COMET": 0.9795163869857788,
+            "errors": [
+                {
+                    "text": "spo",
+                    "confidence": 0.7004191875457764,
+                    "severity": "minor",
+                    "start": 37,
+                    "end": 41
+                },
+                {
+                    "text": "isende artsen",
+                    "confidence": 0.5645303130149841,
+                    "severity": "minor",
+                    "start": 44,
+                    "end": 57
+                }
+            ]
+        },
+        {
+            "src": "I don't agree that #Mastodon is difficult to setup. Common, it's really not that hard. But it's more difficult to find people to follow and build up your timeline. I wish there was a \"who to follow\" recommendation somehow.",
+            "mt": "Ik ben het er niet mee eens dat #Mastodont moeilijk op te zetten is. Gewoon, het is echt niet zo moeilijk. Maar het is moeilijker om mensen te vinden om te volgen en je tijdlijn op te bouwen. Ik wou dat er op de een of andere manier een \"wie te volgen\" aanbeveling was.",
+            "COMET": 0.7624828219413757,
+            "errors": [
+                {
+                    "text": "stod",
+                    "confidence": 0.4678143858909607,
+                    "severity": "major",
+                    "start": 35,
+                    "end": 39
+                },
+                {
+                    "text": "Gewoon",
+                    "confidence": 0.52122563123703,
+                    "severity": "major",
+                    "start": 68,
+                    "end": 75
+                },
+                {
+                    "text": "wou",
+                    "confidence": 0.5986198782920837,
+                    "severity": "minor",
+                    "start": 194,
+                    "end": 198
+                },
+                {
+                    "text": "\"wie te volgen",
+                    "confidence": 0.7724361419677734,
+                    "severity": "minor",
+                    "start": 236,
+                    "end": 251
+                }
+            ]
+        },
+        {
+            "src": "I’m close... I just don’t know if I’m 2 months study close.",
+            "mt": "Ik ben dichtbij... ik weet alleen niet of ik 2 maanden dichtbij studeer, maar ik denk dat ik het kan.",
+            "COMET": 0.7096337080001831,
+            "errors": [
+                {
+                    "text": "dichtbij",
+                    "confidence": 0.46095067262649536,
+                    "severity": "major",
+                    "start": 6,
+                    "end": 15
+                },
+                {
+                    "text": "2 maanden dichtbij studeer",
+                    "confidence": 0.8946747779846191,
+                    "severity": "major",
+                    "start": 44,
+                    "end": 71
+                }
+            ]
+        },
+        {
+            "src": "The Connecting and Reflecting Experience (CARE) program is a transdiagnostic, bi-generational, group-based, mentalizing-focused parenting intervention developed to dismantle the intergenerational transmission of trauma and support secure attachment relationships across the developmental spectrum within an under-resourced community.",
+            "mt": "Het Connecting and Reflecting Experience (CRE) -programma is een transdiagnostische, bi-generationele, groepsgebaseerde, mentaal gerichte ouderinterventie die is ontwikkeld om de intergenerationele overdracht van trauma's te ontmantelen en veilige gehechtheidsrelaties te ondersteunen over het ontwikkelingsspectrum binnen een gemeenschap met te weinig middelen.",
+            "COMET": 0.7960002422332764,
+            "errors": [
+                {
+                    "text": "mentaal gerichte ouderinterventie",
+                    "confidence": 0.7251989841461182,
+                    "severity": "major",
+                    "start": 120,
+                    "end": 154
+                },
+                {
+                    "text": "ontwikkeling",
+                    "confidence": 0.6144954562187195,
+                    "severity": "minor",
+                    "start": 293,
+                    "end": 306
+                }
+            ]
+        },
+        {
+            "src": "Premature babies in the kangaroo care group reached full oral feeding at 29.20±8.06 days after birth, while babies in the standard care group reached full oral feeding at 44.60±21.90 days.",
+            "mt": "Premature baby' s in de kangaroo zorggroep bereikten volledige orale voeding op 29,06 ± 8,20 dagen na de geboorte, terwijl baby' s in de standaard zorggroep volledige orale voeding bereikten op 44,60 ± 21,90 dagen.",
+            "COMET": 0.8820425271987915,
+            "errors": [
+                {
+                    "text": "Premature baby' s",
+                    "confidence": 0.9041864275932312,
+                    "severity": "minor",
+                    "start": 0,
+                    "end": 17
+                },
+                {
+                    "text": "kangaroo zorg",
+                    "confidence": 0.6860550045967102,
+                    "severity": "minor",
+                    "start": 23,
+                    "end": 37
+                },
+                {
+                    "text": "29,",
+                    "confidence": 0.5591465830802917,
+                    "severity": "minor",
+                    "start": 79,
+                    "end": 83
+                },
+                {
+                    "text": "± 8",
+                    "confidence": 0.7090429067611694,
+                    "severity": "minor",
+                    "start": 86,
+                    "end": 89
+                },
+                {
+                    "text": "20",
+                    "confidence": 0.5530984997749329,
+                    "severity": "minor",
+                    "start": 90,
+                    "end": 92
+                },
+                {
+                    "text": "' s",
+                    "confidence": 0.8670581579208374,
+                    "severity": "minor",
+                    "start": 127,
+                    "end": 130
+                },
+                {
+                    "text": "±",
+                    "confidence": 0.6672894358634949,
+                    "severity": "minor",
+                    "start": 200,
+                    "end": 201
+                }
+            ]
+        },
+        {
+            "src": "Nicholas is working with farmers to reduce pesticide use while finding ways to address the issues caused by climate change and pests such as fall armyworm, which can devastate maize crops.",
+            "mt": "Nicholas werkt samen met boeren om het gebruik van pesticiden te verhogen en tegelijkertijd manieren te vinden om de problemen aan te pakken die worden veroorzaakt door klimaatverandering en plagen zoals de herfstworm, die maïsgewassen kunnen verwoesten.",
+            "COMET": 0.6330502033233643,
+            "errors": [
+                {
+                    "text": "te verhogen",
+                    "confidence": 0.5139611959457397,
+                    "severity": "critical",
+                    "start": 61,
+                    "end": 73
+                }
+            ]
+        },
+        {
+            "src": "Kara and Alice die (I am bad at controls), North dies, Hank dies, Marcus is successful, but I let Connor kill him, because I guess I was doing kind of a role-play where Connor is the villain and the outcome is realistic.",
+            "mt": "Carolin en Alice sterven (ik ben slecht in controle), North sterft, Hank sterft, Marcus is succesvol, maar ik laat Connor hem doden, omdat ik denk dat ik een soort rollenspel deed waar Connor de schurk is en de uitkomst realistisch is.",
+            "COMET": 0.6483596563339233,
+            "errors": [
+                {
+                    "text": "Carolin",
+                    "confidence": 0.8955073356628418,
+                    "severity": "major",
+                    "start": 0,
+                    "end": 7
+                },
+                {
+                    "text": "in controle",
+                    "confidence": 0.7832841873168945,
+                    "severity": "major",
+                    "start": 39,
+                    "end": 51
+                }
+            ]
+        },
+        {
+            "src": "The number of flagged findings differed notably between reference intervals compared, except for alkaline phosphatase.",
+            "mt": "Het aantal gemarkeerde bevindingen verschilde aanzienlijk tussen de vergeleken referentieperioden, met uitzondering van protein kinase.",
+            "COMET": 0.6843022704124451,
+            "errors": [
+                {
+                    "text": "gemarkeerde",
+                    "confidence": 0.49093160033226013,
+                    "severity": "major",
+                    "start": 10,
+                    "end": 22
+                },
+                {
+                    "text": "protein kinase",
+                    "confidence": 0.5240397453308105,
+                    "severity": "critical",
+                    "start": 119,
+                    "end": 134
+                }
+            ]
+        }
+    ]
+}

setup/processed/manual_errors/xcomet_texts_orig_ita.jsonl

@@ -0,0 +1,301 @@
+{
+    "/home/p305238/qe4pe/data/texts.ita": [
+        {
+            "src": "Correlations evidenced low concordance between maternal reports and examiner observations of infant temperament at 12 months.",
+            "mt": "Le correlazioni hanno evidenziato una scarsa concordanza tra le relazioni della madre e le osservazioni dell'esaminatore sul temperamento del neonato a 12 mesi.",
+            "COMET": 0.9067193269729614,
+            "errors": [
+                {
+                    "text": "relazioni della madre",
+                    "confidence": 0.5710816383361816,
+                    "severity": "minor",
+                    "start": 63,
+                    "end": 85
+                },
+                {
+                    "text": "atore",
+                    "confidence": 0.610482394695282,
+                    "severity": "minor",
+                    "start": 115,
+                    "end": 120
+                }
+            ]
+        },
+        {
+            "src": "In the co-management group, delirium was detected significantly more often (p < 0.001), significantly lower pain intensities were measured at the time of discharge (p < 0.001), transfer ability had clearly improved more (p = 0.04), and renal function was more frequently noted (p = 0.04).",
+            "mt": "Nel gruppo di somministrazione congiunta, il delirio è stato rilevato significativamente più spesso (p < 0,001), l' intensità del dolore è stata misurata significativamente più bassa al momento della dimissione (p < 0,001), la capacità di trasferimento è stata chiaramente migliorata di più (p = 0,04), e la funzione renale è stata osservata più frequentemente (p = 0,04).",
+            "COMET": 0.7101377248764038,
+            "errors": [
+                {
+                    "text": "somministrazione congiunta",
+                    "confidence": 0.5669569969177246,
+                    "severity": "major",
+                    "start": 13,
+                    "end": 40
+                },
+                {
+                    "text": "l'",
+                    "confidence": 0.673884928226471,
+                    "severity": "minor",
+                    "start": 112,
+                    "end": 115
+                },
+                {
+                    "text": "dolore",
+                    "confidence": 0.667323112487793,
+                    "severity": "minor",
+                    "start": 129,
+                    "end": 136
+                },
+                {
+                    "text": "ta",
+                    "confidence": 0.47124066948890686,
+                    "severity": "minor",
+                    "start": 151,
+                    "end": 153
+                }
+            ]
+        },
+        {
+            "src": "No significant differences were found with respect to principal diagnoses, surgical procedures performed, complication rates, pressure ulcer and delirium incidence, operative revisions, or length of inpatient stay.",
+            "mt": "Non sono state riscontrate differenze significative per quanto riguarda le principali diagnosi, le procedure chirurgiche eseguite, i tassi di complicazioni, l' incidenza di ulcere da pressione e delirio, le revisioni operative o la durata della permanenza in ospedale.",
+            "COMET": 0.9524508118629456,
+            "errors": [
+                {
+                    "text": "'",
+                    "confidence": 0.8124910593032837,
+                    "severity": "minor",
+                    "start": 158,
+                    "end": 159
+                },
+                {
+                    "text": "cere",
+                    "confidence": 0.5010954141616821,
+                    "severity": "minor",
+                    "start": 175,
+                    "end": 179
+                },
+                {
+                    "text": "e de",
+                    "confidence": 0.6416895389556885,
+                    "severity": "minor",
+                    "start": 192,
+                    "end": 197
+                }
+            ]
+        },
+        {
+            "src": "The Last of Us is an easy and canonical example of dad-ification. Joel uses his skills and ability to enact (extreme) acts of violence to accomplish a task that is coded as \"caring.\"",
+            "mt": "The Last of Us è un esempio facile e canonico di dad-ification. Joel usa le sue abilità e la capacità di mettere in atto (estremi) atti di violenza per svolgere un compito che è codificato come \"cura\".",
+            "COMET": 0.7405928373336792,
+            "errors": [
+                {
+                    "text": "dad-ification",
+                    "confidence": 0.8438149690628052,
+                    "severity": "major",
+                    "start": 48,
+                    "end": 62
+                },
+                {
+                    "text": "cura",
+                    "confidence": 0.8082136511802673,
+                    "severity": "major",
+                    "start": 195,
+                    "end": 199
+                }
+            ]
+        },
+        {
+            "src": "92 VPT infants, born 2007-2009, gestational age<32 weeks and/or birthweight of 1500 g, were assessed longitudinally including basic neonatal, socio-economic (SES), 2-year Mental Developmental Index (MDI, Bayley Scales II), 5-year Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children), and Language Screening for Preschoolers data.",
+            "mt": "92 neonati VPT, nati nel periodo 2007-2009, età gestazionale < 32 settimane e/ o peso alla nascita di 1500 g, sono stati valutati longitudinalmente includendo dati di base neonatali, socioeconomici (SES), indice di sviluppo mentale a 2 anni (MDI, Bayley Scales II), composto di elaborazione mentale a 5 anni (MPC, Kaufman-Assessment Battery for Children) e screening linguistico per bambini in età prescolare.",
+            "COMET": 0.8716850280761719,
+            "errors": [
+                {
+                    "text": "zionale < 32 settimane e/ o",
+                    "confidence": 0.8175757527351379,
+                    "severity": "minor",
+                    "start": 53,
+                    "end": 80
+                },
+                {
+                    "text": "composto",
+                    "confidence": 0.6349426507949829,
+                    "severity": "minor",
+                    "start": 265,
+                    "end": 274
+                },
+                {
+                    "text": "-Asses",
+                    "confidence": 0.4935019016265869,
+                    "severity": "minor",
+                    "start": 321,
+                    "end": 327
+                },
+                {
+                    "text": "ment Bat",
+                    "confidence": 0.7476847171783447,
+                    "severity": "minor",
+                    "start": 328,
+                    "end": 336
+                }
+            ]
+        },
+        {
+            "src": "Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is a convincing concept.",
+            "mt": "L'ecografia al punto di cura della medicina di emergenza (EMPoCUS) è un concetto convincente.",
+            "COMET": 0.6637077331542969,
+            "errors": [
+                {
+                    "text": "'ecografia al punto di cura della medicina di emergenza",
+                    "confidence": 0.6889802813529968,
+                    "severity": "major",
+                    "start": 1,
+                    "end": 56
+                },
+                {
+                    "text": "CUS",
+                    "confidence": 0.68117356300354,
+                    "severity": "major",
+                    "start": 62,
+                    "end": 65
+                },
+                {
+                    "text": "un concetto convincente",
+                    "confidence": 0.7196165323257446,
+                    "severity": "major",
+                    "start": 68,
+                    "end": 92
+                }
+            ]
+        },
+        {
+            "src": "Once mastery of EMPoCUS is achieved, emergency physicians should be able to independently and efficiently care for their patients using a variety of PoCUS skills.",
+            "mt": "Una volta acquisita la padronanza di EMPoCUS, i medici di emergenza dovrebbero essere in grado di curare in modo indipendente ed efficiente i loro pazienti utilizzando una varietà di competenze PoCUS.",
+            "COMET": 1.0
+        },
+        {
+            "src": "I don't agree that #Mastodon is difficult to setup. Common, it's really not that hard. But it's more difficult to find people to follow and build up your timeline. I wish there was a \"who to follow\" recommendation somehow.",
+            "mt": "Non sono d'accordo sul fatto che #Mastodon sia difficile da impostare. Comune, in realtà non è così difficile. Ma è più difficile trovare persone da seguire e costruire la tua cronologia. Vorrei che ci fosse una raccomandazione su \"chi seguire\" in qualche modo.",
+            "COMET": 0.7846387624740601,
+            "errors": [
+                {
+                    "text": "Comune",
+                    "confidence": 0.5316469669342041,
+                    "severity": "minor",
+                    "start": 70,
+                    "end": 77
+                },
+                {
+                    "text": "cronologia",
+                    "confidence": 0.5683779716491699,
+                    "severity": "major",
+                    "start": 175,
+                    "end": 186
+                }
+            ]
+        },
+        {
+            "src": "I’m close... I just don’t know if I’m 2 months study close.",
+            "mt": "Sono vicina... solo che non so se sono vicina a studiare per 2 mesi.",
+            "COMET": 0.7638452053070068,
+            "errors": [
+                {
+                    "text": "sono vicina a studiare per",
+                    "confidence": 0.931585967540741,
+                    "severity": "major",
+                    "start": 33,
+                    "end": 60
+                }
+            ]
+        },
+        {
+            "src": "The Connecting and Reflecting Experience (CARE) program is a transdiagnostic, bi-generational, group-based, mentalizing-focused parenting intervention developed to dismantle the intergenerational transmission of trauma and support secure attachment relationships across the developmental spectrum within an under-resourced community.",
+            "mt": "Il programma Connecting and Reflecting Experience (CARE) è un intervento di genitorialità transdiagnostico, bi-generazionale, basato sul gruppo, focalizzato sulla mentalizzazione, sviluppato per smantellare la trasmissione intergenerazionale del trauma e sostenere relazioni di attaccamento sicure attraverso lo spettro dello sviluppo all'interno di una comunità con risorse insufficienti.",
+            "COMET": 0.7134274840354919,
+            "errors": [
+                {
+                    "text": "alità transdiagnostico",
+                    "confidence": 0.4660578668117523,
+                    "severity": "minor",
+                    "start": 84,
+                    "end": 106
+                },
+                {
+                    "text": "mentalizzazione",
+                    "confidence": 0.7087315320968628,
+                    "severity": "major",
+                    "start": 162,
+                    "end": 178
+                },
+                {
+                    "text": "smantellare",
+                    "confidence": 0.9184340238571167,
+                    "severity": "major",
+                    "start": 194,
+                    "end": 206
+                },
+                {
+                    "text": "sicure attraverso lo spettro dello sviluppo",
+                    "confidence": 0.7176313400268555,
+                    "severity": "minor",
+                    "start": 290,
+                    "end": 334
+                },
+                {
+                    "text": "insufficient",
+                    "confidence": 0.44408679008483887,
+                    "severity": "minor",
+                    "start": 374,
+                    "end": 387
+                }
+            ]
+        },
+        {
+            "src": "Premature babies in the kangaroo care group reached full oral feeding at 29.20±8.06 days after birth, while babies in the standard care group reached full oral feeding at 44.60±21.90 days.",
+            "mt": "I neonati prematuri nel gruppo di cura del canguro hanno raggiunto l'alimentazione orale completa a 29,20±8,06 giorni dopo la nascita, mentre i neonati nel gruppo di cura standard hanno raggiunto l'alimentazione orale completa a 44,60±21,90 giorni.",
+            "COMET": 0.844723105430603,
+            "errors": [
+                {
+                    "text": "di cura del canguro",
+                    "confidence": 0.9044349193572998,
+                    "severity": "major",
+                    "start": 30,
+                    "end": 50
+                }
+            ]
+        },
+        {
+            "src": "Nicholas is working with farmers to reduce pesticide use while finding ways to address the issues caused by climate change and pests such as fall armyworm, which can devastate maize crops.",
+            "mt": "Nicholas sta lavorando con gli agricoltori per ridurre l'uso di pesticidi e allo stesso tempo trovare modi per affrontare i problemi causati dai cambiamenti climatici e dai parassiti come l'esercito di autunno, che può devastare le colture di mais.",
+            "COMET": 0.8265209794044495,
+            "errors": [
+                {
+                    "text": "l'esercito di autunno",
+                    "confidence": 0.9556142091751099,
+                    "severity": "major",
+                    "start": 187,
+                    "end": 209
+                }
+            ]
+        },
+        {
+            "src": "Kara and Alice die (I am bad at controls), North dies, Hank dies, Marcus is successful, but I let Connor kill him, because I guess I was doing kind of a role-play where Connor is the villain and the outcome is realistic.",
+            "mt": "Kara e Alice muoiono, North muore, Hank muore, Marcus ha successo, ma ho lasciato che Connor lo uccidesse, perché immagino di aver fatto una specie di gioco di ruolo in cui Connor è il cattivo e il risultato è realistico.",
+            "COMET": 0.8198935389518738,
+            "errors": [
+                {
+                    "text": "fatto",
+                    "confidence": 0.37733355164527893,
+                    "severity": "major",
+                    "start": 130,
+                    "end": 136
+                }
+            ]
+        },
+        {
+            "src": "The number of flagged findings differed notably between reference intervals compared, except for alkaline phosphatase.",
+            "mt": "Il numero di risultati contrassegnati differisce notevolmente tra gli intervalli di riferimento confrontati, ad eccezione della fosfatasi alcalina.",
+            "COMET": 0.9307633638381958
+        }
+    ]
+}

setup/processed/manual_errors/xcomet_texts_orig_nld.jsonl

@@ -0,0 +1,315 @@
+{
+    "/home/p305238/qe4pe/data/texts.nld": [
+        {
+            "src": "Correlations evidenced low concordance between maternal reports and examiner observations of infant temperament at 12 months.",
+            "mt": "Correlaties lieten een geringe overeenstemming zien tussen de meldingen van de moeder en de waarnemingen van de onderzoeker van het temperament van het kind na 12 maanden.",
+            "COMET": 1.0
+        },
+        {
+            "src": "In the co-management group, delirium was detected significantly more often (p < 0.001), significantly lower pain intensities were measured at the time of discharge (p < 0.001), transfer ability had clearly improved more (p = 0.04), and renal function was more frequently noted (p = 0.04).",
+            "mt": "In de gelijktijdig behandelde groep werd significant vaker delirium gedetecteerd (p < 0,001), significant lagere pijnintensiteit werd gemeten op het moment van ontslag (p < 0,001), het overdraagvermogen was duidelijk meer verbeterd (p = 0,04), en de nierfunctie werd vaker waargenomen (p = 0,04).",
+            "COMET": 0.7494478225708008,
+            "errors": [
+                {
+                    "text": "behandel",
+                    "confidence": 0.3989824056625366,
+                    "severity": "major",
+                    "start": 18,
+                    "end": 27
+                },
+                {
+                    "text": "overdraagvermogen",
+                    "confidence": 0.5154157876968384,
+                    "severity": "major",
+                    "start": 184,
+                    "end": 202
+                },
+                {
+                    "text": "waar",
+                    "confidence": 0.44052693247795105,
+                    "severity": "major",
+                    "start": 272,
+                    "end": 277
+                }
+            ]
+        },
+        {
+            "src": "No significant differences were found with respect to principal diagnoses, surgical procedures performed, complication rates, pressure ulcer and delirium incidence, operative revisions, or length of inpatient stay.",
+            "mt": "Er werden geen significante verschillen gevonden met betrekking tot de belangrijkste diagnoses, uitgevoerde chirurgische ingrepen, het aantal complicaties, de incidentie van drukzweren en delirium, operatieve herzieningen of de duur van het verblijf in het ziekenhuis.",
+            "COMET": 0.9518227577209473,
+            "errors": [
+                {
+                    "text": "ren",
+                    "confidence": 0.5715898275375366,
+                    "severity": "minor",
+                    "start": 181,
+                    "end": 184
+                },
+                {
+                    "text": "herzieningen",
+                    "confidence": 0.8896821737289429,
+                    "severity": "minor",
+                    "start": 208,
+                    "end": 221
+                }
+            ]
+        },
+        {
+            "src": "The Last of Us is an easy and canonical example of dad-ification. Joel uses his skills and ability to enact (extreme) acts of violence to accomplish a task that is coded as \"caring.\"",
+            "mt": "The Last of Us is een eenvoudig en canoniek voorbeeld van dad-ification. Joel gebruikt zijn vaardigheden en vermogen om (extreme) gewelddadige daden uit te voeren om een taak te volbrengen die is gecodeerd als \"zorg\".",
+            "COMET": 0.8409605026245117,
+            "errors": [
+                {
+                    "text": "canoniek",
+                    "confidence": 0.8043956756591797,
+                    "severity": "minor",
+                    "start": 34,
+                    "end": 43
+                },
+                {
+                    "text": "dad-ification",
+                    "confidence": 0.7691871523857117,
+                    "severity": "major",
+                    "start": 57,
+                    "end": 71
+                },
+                {
+                    "text": "\"zorg\".",
+                    "confidence": 0.7487683296203613,
+                    "severity": "minor",
+                    "start": 209,
+                    "end": 217
+                }
+            ]
+        },
+        {
+            "src": "92 VPT infants, born 2007-2009, gestational age<32 weeks and/or birthweight of 1500 g, were assessed longitudinally including basic neonatal, socio-economic (SES), 2-year Mental Developmental Index (MDI, Bayley Scales II), 5-year Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children), and Language Screening for Preschoolers data.",
+            "mt": "92 VPT-zuigelingen, geboren in 2007-2009, zwangerschapsleeftijd < 32 weken en/of geboortegewicht van 1500 g, werden longitudinaal beoordeeld, inclusief basisgegevens over neonatale, sociaal-economische (SES), 2-jarige Mental Developmental Index (MDI, Bayley Scales II), 5-jarige Mental Processing Composite (MPC, Kaufman-Assessment Battery for Children) en Language Screening voor kleuters.",
+            "COMET": 0.7505412101745605,
+            "errors": [
+                {
+                    "text": "zwangerschaps",
+                    "confidence": 0.6977992057800293,
+                    "severity": "minor",
+                    "start": 41,
+                    "end": 55
+                },
+                {
+                    "text": "tijd <",
+                    "confidence": 0.6142313480377197,
+                    "severity": "minor",
+                    "start": 59,
+                    "end": 65
+                },
+                {
+                    "text": "van",
+                    "confidence": 0.6665475368499756,
+                    "severity": "minor",
+                    "start": 96,
+                    "end": 100
+                },
+                {
+                    "text": "Mental Developmental",
+                    "confidence": 0.7497146129608154,
+                    "severity": "minor",
+                    "start": 217,
+                    "end": 238
+                },
+                {
+                    "text": "Language Screening voor kleuters",
+                    "confidence": 0.7475718259811401,
+                    "severity": "major",
+                    "start": 356,
+                    "end": 389
+                }
+            ]
+        },
+        {
+            "src": "Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is a convincing concept.",
+            "mt": "Emergency Medicine Point-of-Care Ultrasound (EMPoCUS) is een overtuigend concept.",
+            "COMET": 0.9853702187538147,
+            "errors": [
+                {
+                    "text": "Emergency Medicine Point",
+                    "confidence": 0.7990527749061584,
+                    "severity": "minor",
+                    "start": 0,
+                    "end": 24
+                }
+            ]
+        },
+        {
+            "src": "Once mastery of EMPoCUS is achieved, emergency physicians should be able to independently and efficiently care for their patients using a variety of PoCUS skills.",
+            "mt": "Zodra EMPoCUS onder de knie is, moeten spoedeisende artsen in staat zijn om hun patiënten zelfstandig en efficiënt te verzorgen met behulp van een verscheidenheid aan PoCUS-vaardigheden.",
+            "COMET": 0.9875538349151611,
+            "errors": [
+                {
+                    "text": "spoedeisende artsen",
+                    "confidence": 0.6391350030899048,
+                    "severity": "minor",
+                    "start": 38,
+                    "end": 58
+                }
+            ]
+        },
+        {
+            "src": "I don't agree that #Mastodon is difficult to setup. Common, it's really not that hard. But it's more difficult to find people to follow and build up your timeline. I wish there was a \"who to follow\" recommendation somehow.",
+            "mt": "Ik ben het er niet mee eens dat #Mastodon moeilijk op te zetten is. Gewoon, het is echt niet zo moeilijk. Maar het is moeilijker om mensen te vinden om te volgen en je tijdlijn op te bouwen. Ik wou dat er op de een of andere manier een \"wie te volgen\" aanbeveling was.",
+            "COMET": 0.8391605615615845,
+            "errors": [
+                {
+                    "text": "Gewoon",
+                    "confidence": 0.5112566351890564,
+                    "severity": "major",
+                    "start": 67,
+                    "end": 74
+                },
+                {
+                    "text": "wou",
+                    "confidence": 0.6631531715393066,
+                    "severity": "minor",
+                    "start": 193,
+                    "end": 197
+                },
+                {
+                    "text": "\"wie te volgen",
+                    "confidence": 0.8100032806396484,
+                    "severity": "minor",
+                    "start": 235,
+                    "end": 250
+                }
+            ]
+        },
+        {
+            "src": "I’m close... I just don’t know if I’m 2 months study close.",
+            "mt": "Ik ben dichtbij... ik weet alleen niet of ik 2 maanden dichtbij studeer.",
+            "COMET": 0.7219476699829102,
+            "errors": [
+                {
+                    "text": "ben dichtbij",
+                    "confidence": 0.5908181667327881,
+                    "severity": "major",
+                    "start": 2,
+                    "end": 15
+                },
+                {
+                    "text": "2 maanden dichtbij studeer",
+                    "confidence": 0.9273993372917175,
+                    "severity": "major",
+                    "start": 44,
+                    "end": 71
+                }
+            ]
+        },
+        {
+            "src": "The Connecting and Reflecting Experience (CARE) program is a transdiagnostic, bi-generational, group-based, mentalizing-focused parenting intervention developed to dismantle the intergenerational transmission of trauma and support secure attachment relationships across the developmental spectrum within an under-resourced community.",
+            "mt": "Het Connecting and Reflecting Experience (CARE) -programma is een transdiagnostische, bi-generationele, groepsgebaseerde, mentaal gerichte ouderinterventie die is ontwikkeld om de intergenerationele overdracht van trauma's te ontmantelen en veilige gehechtheidsrelaties te ondersteunen over het ontwikkelingsspectrum binnen een gemeenschap met te weinig middelen.",
+            "COMET": 0.810248851776123,
+            "errors": [
+                {
+                    "text": "mentaal gerichte ouderinterventie",
+                    "confidence": 0.7460248470306396,
+                    "severity": "major",
+                    "start": 121,
+                    "end": 155
+                },
+                {
+                    "text": "ontwikkeling",
+                    "confidence": 0.5698232650756836,
+                    "severity": "minor",
+                    "start": 294,
+                    "end": 307
+                }
+            ]
+        },
+        {
+            "src": "Premature babies in the kangaroo care group reached full oral feeding at 29.20±8.06 days after birth, while babies in the standard care group reached full oral feeding at 44.60±21.90 days.",
+            "mt": "Premature baby' s in de kangaroo zorggroep bereikten volledige orale voeding op 29,20 ± 8,06 dagen na de geboorte, terwijl baby' s in de standaard zorggroep volledige orale voeding bereikten op 44,60 ± 21,90 dagen.",
+            "COMET": 0.8921985626220703,
+            "errors": [
+                {
+                    "text": "Premature baby' s",
+                    "confidence": 0.9045185446739197,
+                    "severity": "minor",
+                    "start": 0,
+                    "end": 17
+                },
+                {
+                    "text": "kangaroo zorg",
+                    "confidence": 0.6852253079414368,
+                    "severity": "minor",
+                    "start": 23,
+                    "end": 37
+                },
+                {
+                    "text": "29,",
+                    "confidence": 0.5302284955978394,
+                    "severity": "minor",
+                    "start": 79,
+                    "end": 83
+                },
+                {
+                    "text": "± 8,",
+                    "confidence": 0.6544675230979919,
+                    "severity": "minor",
+                    "start": 86,
+                    "end": 90
+                },
+                {
+                    "text": "' s",
+                    "confidence": 0.8658047914505005,
+                    "severity": "minor",
+                    "start": 127,
+                    "end": 130
+                },
+                {
+                    "text": "±",
+                    "confidence": 0.605811595916748,
+                    "severity": "minor",
+                    "start": 199,
+                    "end": 201
+                }
+            ]
+        },
+        {
+            "src": "Nicholas is working with farmers to reduce pesticide use while finding ways to address the issues caused by climate change and pests such as fall armyworm, which can devastate maize crops.",
+            "mt": "Nicholas werkt samen met boeren om het gebruik van pesticiden te verminderen en tegelijkertijd manieren te vinden om de problemen aan te pakken die worden veroorzaakt door klimaatverandering en plagen zoals de herfstworm, die maïsgewassen kunnen verwoesten.",
+            "COMET": 1.0
+        },
+        {
+            "src": "Kara and Alice die (I am bad at controls), North dies, Hank dies, Marcus is successful, but I let Connor kill him, because I guess I was doing kind of a role-play where Connor is the villain and the outcome is realistic.",
+            "mt": "Kara en Alice sterven (ik ben slecht in controle), North sterft, Hank sterft, Marcus is succesvol, maar ik laat Connor hem doden, omdat ik denk dat ik een soort rollenspel deed waar Connor de schurk is en de uitkomst realistisch is.",
+            "COMET": 0.8467485904693604,
+            "errors": [
+                {
+                    "text": "in controle",
+                    "confidence": 0.5606030225753784,
+                    "severity": "major",
+                    "start": 36,
+                    "end": 48
+                },
+                {
+                    "text": "deed",
+                    "confidence": 0.6547279357910156,
+                    "severity": "minor",
+                    "start": 171,
+                    "end": 176
+                }
+            ]
+        },
+        {
+            "src": "The number of flagged findings differed notably between reference intervals compared, except for alkaline phosphatase.",
+            "mt": "Het aantal gemarkeerde bevindingen verschilde aanzienlijk tussen de vergeleken referentieperioden, met uitzondering van alkalische fosfatase.",
+            "COMET": 0.8952478766441345,
+            "errors": [
+                {
+                    "text": "gemarkeerde bevindingen",
+                    "confidence": 0.5541529655456543,
+                    "severity": "major",
+                    "start": 10,
+                    "end": 34
+                }
+            ]
+        }
+    ]
+}

setup/processed/orig_doc_df.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2a8e7549cccd3e2030bbb0da9b1dd421a15e5c8f787a56f86ac36a502bc6dbbe
+size 10261134

setup/processed/orig_segment_df.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:93bf51e0cfba5e662103d356a6d3e04363e9f13b3c96806ceb1766551d4d65e7
+size 58197819