transformers pytorch mt5 text2text-generation summarization el arxiv:2311.07767 arxiv:2304.00869 license:apache-2.0 model-index autotrain_compatible endpoints_compatible region:us
---
language:
- el
license: apache-2.0
metrics:
- bertscore
- rouge
pipeline_tag: summarization
widget:
- text: 'Να πάρει ""ξεκάθαρη"" θέση σε σχέση με τον κίνδυνο μετάδοσης του κορονοϊού
    από τη Θεία Κοινωνία καλεί την κυβέρνηση και τον Πρωθυπουργό με ανακοίνωσή
    του τη Δευτέρα ο ΣΥΡΙΖΑ. ""Την ώρα που κλείνουν προληπτικά και ορθώς σχολεία,
    πανεπιστήμια, γήπεδα και λαμβάνονται ειδικά μέτρα ακόμη και για την ορκωμοσία
    της νέας Προέδρου της Δημοκρατίας, η Ιερά Σύνοδος της Εκκλησίας της Ελλάδος
    επιμένει ότι το μυστήριο της Θείας Κοινωνίας δεν εγκυμονεί κινδύνους μετάδοσης
    του κορονοϊού, καλώντας όμως τις ευπαθείς ομάδες να μείνουν σπίτι τους"",
    αναφέρει η αξιωματική αντιπολίτευση και συνεχίζει: ""Ωστόσο το πρόβλημα
    δεν είναι τι λέει η Ιερά Σύνοδος, αλλά τι λέει η Πολιτεία και συγκεκριμένα
    ο ΕΟΔΥ και το Υπουργείο Υγείας, που έχουν και την αποκλειστική κοινωνική
    ευθύνη για τη μη εξάπλωση του ιού και την προστασία των πολιτών"". ""Σε άλλες
    ευρωπαϊκές χώρες με εξίσου μεγάλο σεβασμό στη Χριστιανική πίστη και στο
    θρησκευτικό συναίσθημα, τα μυστήρια της Εκκλησίας είτε αναστέλλονται είτε
    τροποποιούν το τελετουργικό τους. Μόνο στη χώρα μας έχουμε το θλιβερό προνόμιο
    μιας πολιτείας που δεν τολμά να πει το αυτονόητο"", προσθέτει, τονίζοντας
    ότι ""η κυβέρνηση λοιπόν και το Υπουργείο Υγείας οφείλουν να πάρουν δημόσια
    μια ξεκάθαρη θέση και να μην θυσιάζουν τη δημόσια Υγεία στο βωμό του πολιτικού
    κόστους"". ""Συμφωνούν ότι η Θεία Κοινωνία δεν εγκυμονεί κινδύνους μετάδοσης
    του κορονοϊού; Δεν είναι θέμα ευσέβειας αλλά κοινωνικής ευθύνης. Και με
    τη Δημόσια υγεία δεν μπορούμε να παίζουμε"", καταλήγει η ανακοίνωση του
    γραφείου Τύπου του ΣΥΡΙΖΑ. *ΠΩΣ ΜΕΤΑΔΙΔΕΤΑΙ. Χρήσιμος οδηγός για να προστατευθείτε
    από τον κορονοϊό *ΤΑ ΝΟΣΟΚΟΜΕΙΑ ΑΝΑΦΟΡΑΣ. Ποια θα υποδέχονται τα κρούσματα
    κορονοϊού στην Ελλάδα. *ΤΑΞΙΔΙΑ. Κορονοϊός και αεροδρόμια: Τι να προσέξετε.
    *Η ΕΠΙΔΗΜΙΑ ΣΤΟΝ ΠΛΑΝΗΤΗ. Δείτε LIVE χάρτη με την εξέλιξη του κορονοϊού.'
  example_title: Politics
- text: 'Με άρθρο της με τίτλο ""Επιστρέψτε στη θεά Ίριδα το σώμα της"", η εφημερίδα
    Washington Post τάσσεται υπέρ της επιστροφής των γλυπτών του Παρθενώνα, στην
    Αθήνα, στην κοιτίδα του δυτικού πολιτισμού, τώρα που οι συνθήκες έχουν
    αλλάξει για την πάλαι ποτέ αυτοκρατορία της Αγγλίας. Αναφερόμενη στις διαφορετικές
    απόψεις Ελλήνων και Βρετανών για τα γλυπτά, η συντάκτρια του άρθρου, τονίζει
    ότι το αίτημα επιστροφής έχει αποκτήσει μεγαλύτερο βάρος τώρα που το Ηνωμένο
    Βασίλειο εγκαταλείπει την Ευρωπαϊκή Ένωση. «Όταν ο Τόμας Μπρους, έβδομος
    κόμης του Έλγιν, και 11ος κόμης του Κινκαρντίν, ταξίδεψε στην Ακρόπολη στις
    αρχές της δεκαετίας του 1800, ως Βρετανός πρέσβης στην Οθωμανική Αυτοκρατορία,
    ο Σουλτάνος λέγεται ότι του έδωσε την άδεια να ""αφαιρέσει μερικά τμήματα
    λίθων με παλιές επιγραφές και μορφές"". Ο λόρδος το εξέλαβε ως άδεια να
    αφαιρέσει, περίπου, 17 αγάλματα από τα αετώματα, 15 μετώπες, και 247 πόδια
    (περίπου 75 μέτρα) της ζωφόρου από τον Παρθενώνα για να τα φέρει στην καλή
    μας Αγγλία» αναφέρει στο άρθρο της η Washington Post. Και συνεχίζει λέγοντας
    ότι «οι καιροί όμως άλλαξαν και αυτό που θεωρούνταν πιο δικαιολογημένο
    τότε, σήμερα θεωρείται ευρέως ως μια ασυνείδητη πράξη». Σε μία έμμεση
    αναφορά στο Brexit, και υπεραμυνόμενη της επιστροφής των γλυπτών στην Ελλάδα,
    η συντάκτρια του άρθρου της Washington Post, διερωτάται: «Γιατί να παραμείνουν
    τα μάρμαρα στη φύλαξη της χώρας που επιμένει ότι ανήκει μόνο στον εαυτό
    της;» και σημειώνει: «Η Ελλάδα τιμάται σήμερα ως λίκνο του δυτικού πολιτισμού,
    και ποιοί παρά οι Έλληνες θα μπορούσαν να στεγάσουν τον πολιτισμό αυτό;».'
  example_title: Culture
- text: Το Διεθνές Νομισματικό Ταμείο (ΔΝΤ) προβλέπει ένα χρέος ρεκόρ των πλούσιων
    χωρών το 2014 και κρίνει ""πιθανό"" να υπάρξει επιπλέον συμβολή των πιο
    εύπορων προσώπων και των πολυεθνικών επιχειρήσεων σε μια μείωση των ελλειμμάτων,
    σύμφωνα με έκθεσή του η οποία δόθηκε σήμερα στη δημοσιότητα. ""Φαίνεται
    ότι υπάρχει ένα επαρκές περιθώριο σε πολλές ανεπτυγμένες χώρες για να
    αντληθούν επιπλέον έσοδα από τα πιο υψηλά εισοδήματα"", υπογραμμίζει το
    ΔΝΤ στην έκθεσή του για την δημοσιονομική επιτήρηση. Κατά μέσον όρο, το
    δημόσιο χρέος των ανεπτυγμένων χωρών αναμένεται να φτάσει το ""ιστορικό
    υψηλό"" του 110% του ΑΕΠ τους το 2014, δηλαδή θα βρίσκεται 35 μονάδες πιο
    πάνω από το ποσοστό του 2007, επισημαίνει το ΔΝΤ στην έκθεσή του. Με μια
    αναλογία χρέους/ΑΕΠ της τάξης του 242,3% που προβλέπεται να έχει το 2014,
    η Ιαπωνία αναμένεται να βρίσκεται πρώτη στον κατάλογο των υπερχρεωμένων
    ανεπτυγμένων χωρών, ακολουθούμενη από την Ελλάδα (174%), την Ιταλία (133,1%)
    και την Πορτογαλία (125,3%). Οι ΗΠΑ, οι οποίες έχουν παραλύσει από ένα δημοσιονομικό
    αδιέξοδο και απειλούνται από μια πιθανή στάση πληρωμών, θα δουν το χρέος
    τους να ανεβαίνει στο 107,3% του ΑΕΠ τους το 2014, δηλαδή θα βρίσκονται πολύ
    πιο μπροστά από την Γαλλία και το 94,8% στο οποίο αναμένεται ότι θα ανέρχεται
    την ερχόμενη χρονιά το χρέος της. Η δεύτερη οικονομική δύναμη του κόσμου,
    η Κίνα δίνει την εικόνα του καλού μαθητή με μια αναλογία χρέους/ΑΕΠ μόνον
    20,9% την ερχόμενη χρονιά, σύμφωνα με το ΔΝΤ. ""Παρά τις προόδους στη μείωση
    των ελλειμμάτων, οι δημοσιονομικές αδυναμίες παραμένουν βαθιές στις ανεπτυγμένες
    χώρες"", επισημαίνεται στην έκθεση. Απέναντι σε αυτές τις ανισορροπίες,
    το ΔΝΤ εκφράζει την ανησυχία του καθώς βλέπει ""ένα φορολογικό σύστημα
    υπό πίεση"", το οποίο ευνοεί τον ανταγωνισμό μεταξύ των κρατών και επιτρέπει
    στους εύπορους φορολογούμενους και στις πολυεθνικές να ελαφρύνουν τους φόρους
    τους. Μόνον στις ΗΠΑ, το ΔΝΤ υπολογίζει σε 60 δισεκατομμύρια δολάρια τα έσοδα
    που φέρεται ότι χάνονται λόγω τεχνικών βελτιστοποίησης της φορολογίας των
    πολυεθνικών. Το ΔΝΤ επισημαίνει ότι οι τελευταίες δεκαετίες έχουν σηματοδοτηθεί
    από μια ""θεαματική άνοδο"" του πλούτου του ""1%"" των πιο πλούσιων, κυρίως
    στον αγγλοσαξονικό κόσμο, χωρίς ωστόσο η φορολογία να έχει προσαρμοστεί
    σε αυτήν την εξέλιξη. ""Σε πολλές χώρες θα ήταν πιθανό να επιβληθούν επιπλέον
    φόροι σε αυτούς που διαθέτουν τα πιο υψηλά εισοδήματα"", υπογραμμίζει το
    ΔΝΤ, το οποίο κρίνει εξάλλου ""συνετό"" τον υπολογισμό σε 4.500 δισεκατομμύρια
    δολάρια των διαθεσίμων που αποκρύπτονται από ιδιώτες σε φορολογικούς παραδείσους.
    Οι χώρες της Ομάδας των Είκοσι (G20), οι υπουργοί Οικονομικών των οποίων
    συναντώνται αυτήν την εβδομάδα στην Ουάσινγκτον, ξεκίνησαν πρόσφατα πρωτοβουλίες
    για την πάταξη της φοροδιαφυγής.
  example_title: Economics
model-index:
- name: IMISLab/GreekT5-mt5-small-greeksum
  results:
  - task:
      type: summarization
      name: Summarization
    dataset:
      name: GreekSUM
      type: greeksum
      config: default
      split: test
    metrics:
    - type: rouge
      value: 14.84
      name: ROUGE-1
      verified: true
    - type: rouge
      value: 1.68
      name: ROUGE-2
      verified: true
    - type: rouge
      value: 12.39
      name: ROUGE-L
      verified: true
    - type: bertscore
      value: 72.96
      name: BERTScore
      verified: true
---

# GreekT5 (mt5-small-greeksum)

A Greek news summarization model trained on [GreekSum](https://github.com/iakovosevdaimon/GreekSUM).  
This model is part of a series of models trained as part of our research paper: 
[Giarelis, N., Mastrokostas, C., & Karacapilidis, N. (2024) GreekT5: Sequence-to-Sequence Models for Greek News Summarization](https://link.springer.com/chapter/10.1007/978-3-031-63215-0_5) [\[arxiv\]](https://arxiv.org/abs/2311.07767)
The proposed models were trained and evaluated on the same dataset against [GreekBART](https://arxiv.org/abs/2304.00869).
For more information see the evaluation section below.

## Training dataset

The training dataset of `GreekT5-mt5-small-greeksum` is [GreekSum](https://github.com/iakovosevdaimon/GreekSUM/), which is the first news summarization dataset for the Greek Language.  
This dataset contains ~151,000 news articles collected from [News24/7](https://www.news247.gr/), belonging to various topics (i.e., society, politics, economy, culture or world news).  
For more information see: [https://arxiv.org/abs/2304.00869](https://arxiv.org/abs/2304.00869)

## Training configuration

We trained `google/mt5-small` [300 million parameters (~1.20 GB)] on the GreekSUM train split using the following parameters:
* GPU batch size = 6
* Total training epochs = 10
* AdamW optimizer (e = 1e−8, β1 = 0.9 and β2 = 0.0999)
* Learning rate = 3e−4
* No warmup steps
* 32-bit floating precision
* Tokenization  
  * maximum input token length = 1024
  * maximum output token length = 128
  * padding = ‘max_length’
  * truncation = True

**Note:** T5-based models use a multi-task architecture, the prefix *‘summarize: ’* was prepended in each training sample. 

## Evaluation
**Approach**|**ROUGE-1**|**ROUGE-2**|**ROUGE-L**|**BERTScore**
------------|-----------|-----------|-----------|-------------
TextRank|18.10|5.76|13.84|68.39
**GreekT5 (mt5-small)**|14.84|1.68|12.39|72.96
GreekT5 (umt5-small)|25.49|12.03|21.32|72.86
GreekT5 (umt5-base)|**26.67**|**13.00**|**22.42**|73.41
GreekBART|17.43|2.44|15.08|**75.89**

### Example code
```python
from transformers import AutoModelForSeq2SeqLM, AutoTokenizer, pipeline

model_name = 'IMISLab/GreekT5-mt5-small-greeksum'
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name) 

summarizer = pipeline(
    'summarization',
    device = 'cpu',
    model = model,
    tokenizer = tokenizer,
    max_new_tokens = 128,
    truncation = True
)
    
text = 'Να πάρει ""ξεκάθαρη"" θέση σε σχέση με τον κίνδυνο μετάδοσης του κορονοϊού από τη Θεία Κοινωνία καλεί την κυβέρνηση και τον Πρωθυπουργό με ανακοίνωσή του τη Δευτέρα ο ΣΥΡΙΖΑ. ""Την ώρα που κλείνουν προληπτικά και ορθώς σχολεία, πανεπιστήμια, γήπεδα και λαμβάνονται ειδικά μέτρα ακόμη και για την ορκωμοσία της νέας Προέδρου της Δημοκρατίας, η Ιερά Σύνοδος της Εκκλησίας της Ελλάδος επιμένει ότι το μυστήριο της Θείας Κοινωνίας δεν εγκυμονεί κινδύνους μετάδοσης του κορονοϊού, καλώντας όμως τις ευπαθείς ομάδες να μείνουν σπίτι τους"", αναφέρει η αξιωματική αντιπολίτευση και συνεχίζει: ""Ωστόσο το πρόβλημα δεν είναι τι λέει η Ιερά Σύνοδος, αλλά τι λέει η Πολιτεία και συγκεκριμένα ο ΕΟΔΥ και το Υπουργείο Υγείας, που έχουν και την αποκλειστική κοινωνική ευθύνη για τη μη εξάπλωση του ιού και την προστασία των πολιτών"". ""Σε άλλες ευρωπαϊκές χώρες με εξίσου μεγάλο σεβασμό στη Χριστιανική πίστη και στο θρησκευτικό συναίσθημα, τα μυστήρια της Εκκλησίας είτε αναστέλλονται είτε τροποποιούν το τελετουργικό τους. Μόνο στη χώρα μας έχουμε το θλιβερό προνόμιο μιας πολιτείας που δεν τολμά να πει το αυτονόητο"", προσθέτει, τονίζοντας ότι ""η κυβέρνηση λοιπόν και το Υπουργείο Υγείας οφείλουν να πάρουν δημόσια μια ξεκάθαρη θέση και να μην θυσιάζουν τη δημόσια Υγεία στο βωμό του πολιτικού κόστους"". ""Συμφωνούν ότι η Θεία Κοινωνία δεν εγκυμονεί κινδύνους μετάδοσης του κορονοϊού; Δεν είναι θέμα ευσέβειας αλλά κοινωνικής ευθύνης. Και με τη Δημόσια υγεία δεν μπορούμε να παίζουμε"", καταλήγει η ανακοίνωση του γραφείου Τύπου του ΣΥΡΙΖΑ. *ΠΩΣ ΜΕΤΑΔΙΔΕΤΑΙ. Χρήσιμος οδηγός για να προστατευθείτε από τον κορονοϊό *ΤΑ ΝΟΣΟΚΟΜΕΙΑ ΑΝΑΦΟΡΑΣ. Ποια θα υποδέχονται τα κρούσματα κορονοϊού στην Ελλάδα. *ΤΑΞΙΔΙΑ. Κορονοϊός και αεροδρόμια: Τι να προσέξετε. *Η ΕΠΙΔΗΜΙΑ ΣΤΟΝ ΠΛΑΝΗΤΗ. Δείτε LIVE χάρτη με την εξέλιξη του κορονοϊού.'
output = summarizer('summarize: ' + text)
print(output[0]['summary_text'])
```
## Contact

If you have any questions/feedback about the model please e-mail one of the following authors:
```
giarelis@ceid.upatras.gr
cmastrokostas@ac.upatras.gr
karacap@upatras.gr
```
## Citation

The model has been officially released with the article: [GreekT5: A Series of Greek Sequence-to-Sequence Models for News Summarization](https://arxiv.org/).
If you use the model, please cite the following:
```
@inproceedings{giarelis2024greekt5,
  title={GreekT5: Sequence-to-Sequence Models for Greek News Summarization},
  author={Giarelis, Nikolaos and Mastrokostas, Charalampos and Karacapilidis, Nikos},
  booktitle={IFIP International Conference on Artificial Intelligence Applications and Innovations},
  pages={60--73},
  year={2024},
  organization={Springer}
}
```
