Dataset Card for ru_MedSum

Dataset Summary

Dataset for automatic summarization of abstracts to form Russian medical article titles. Abstracts and titles are from the CyberLeninka website. Abstracts were parsed as the content of an HTML tag with “description” property. Additional selection of good pair of title and abstracts was performed.

Languages

The dataset is in Russian.

Usage

from datasets import load_dataset

dataset = load_dataset('smakov/ru_medsum')

Other datasets

Other Russian summarization datasets:

• 2nd version of [Gazeta], parsed from www.gazeta.ru, 74126 samples
• Russian part of XL-Sum, parsed from www.bbc.com/russian, 77803 samples
• Russian part of MLSUM, parsed from www.mk.ru, 27063 samples

Dataset Structure

Data Instances

For each instance, there is a string for the text (abstract), a string for the summary (title), and a strings for the url and year of publication.

{
   'text': 'в радиологии и эндокринологии заболевания эндокринной системы считаются одним из проблематичных разделов. «пионерские» методы визуализации давали мало информации и даже иногда сопровождались болезненными инвазивными манипуляциями. широкое введение в деятельность врача «новых» лучевых методов таких как ркт и мрт позволило выявить объемные образования малых размеров, что привело к значительному снижению летальности. мрт и кт с применением йододорастворимых контрастов усиливает информативность этих методов, что приводит к увеличению чувствительности и специфичности метода для выявления объемных образований. это позволяет тщательно уточнить взаимосвязь опухоли и с окружающими тканями. несмотря на успехи лучевой визуализации, проблема дифференциальнойдиагностики, разработка алгоритма комплексной лучевойдиагностикипатологии надпочечников остается открытой и требует дальнейшего изучения.',
   'summary': 'возможности магнитно-резонансной и компьютерной томографии в диагностике объемных образований надпочечников',
   'doc_id': 'vozmozhnosti-magnitno-rezonansnoy-i-kompyuternoy-tomografii-v-diagnostike-obemnyh-obrazovaniy-nadpochechnikov',
   'url': 'https://cyberleninka.ru/article/n/vozmozhnosti-magnitno-rezonansnoy-i-kompyuternoy-tomografii-v-diagnostike-obemnyh-obrazovaniy-nadpochechnikov',
   'year': '2017'
}

Some dataset statistics are below:

Feature	Mean Token Count	Median Token Count
Text	12.67	12.00
Summary	221.00	214.00

Data Splits

Dataset Split	Number of Instances in Split
Train	23,711
Validation	1,321
Test	1,321

Dataset Creation

Source Data

Initial Data Collection and Normalization

• The source of data is the CyberLeninka clinical medicine domain articles.
• Parsing, cleaning and normalization scripts are here.

Who are the source language producers?

Texts and summaries were written by researchers at CyberLeninka.

Additional Information

Dataset Curators

The data was collected by Daniyar Smakov.

Licensing Information

Legal basis for distribution of the dataset: https://cyberleninka.ru/terms.html, paragraph 4.2. All rights belong to "www.gazeta.ru". All Site services and Scientific Works posted on the Site are intended solely for personal, non-commercial use.