Datasets:
dataset_info:
features:
- name: text
dtype: string
- name: summary
dtype: string
- name: doc_id
dtype: string
- name: url
dtype: string
- name: year
dtype: string
splits:
- name: train
num_bytes: 78121460
num_examples: 23771
- name: validation
num_bytes: 4333873
num_examples: 1321
- name: test
num_bytes: 4285597
num_examples: 1321
download_size: 39991663
dataset_size: 86740930
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
- split: test
path: data/test-*
task_categories:
- summarization
language:
- ru
size_categories:
- 10K<n<100K
pretty_name: MedSum
Dataset Card for ru_MedSum
Table of Contents
Dataset Description
- Homepage: https://github.com/smvkvv/ru_medsum
- Point of Contact: Daniyar Smakov
Dataset Summary
Dataset for automatic summarization of abstracts to form Russian medical article titles. Abstracts and titles are from the CyberLeninka website. Abstracts were parsed as the content of an HTML tag with “description” property. Additional selection of good pair of title and abstracts was performed.
Languages
The dataset is in Russian.
Usage
from datasets import load_dataset
dataset = load_dataset('smakov/ru_medsum')
Other datasets
Other Russian summarization datasets:
- 2nd version of [Gazeta], parsed from www.gazeta.ru, 74126 samples
- Russian part of XL-Sum, parsed from www.bbc.com/russian, 77803 samples
- Russian part of MLSUM, parsed from www.mk.ru, 27063 samples
Dataset Structure
Data Instances
For each instance, there is a string for the text (abstract), a string for the summary (title), and a strings for the url and year of publication.
{
'text': 'в радиологии и эндокринологии заболевания эндокринной системы считаются одним из проблематичных разделов. «пионерские» методы визуализации давали мало информации и даже иногда сопровождались болезненными инвазивными манипуляциями. широкое введение в деятельность врача «новых» лучевых методов таких как ркт и мрт позволило выявить объемные образования малых размеров, что привело к значительному снижению летальности. мрт и кт с применением йододорастворимых контрастов усиливает информативность этих методов, что приводит к увеличению чувствительности и специфичности метода для выявления объемных образований. это позволяет тщательно уточнить взаимосвязь опухоли и с окружающими тканями. несмотря на успехи лучевой визуализации, проблема дифференциальнойдиагностики, разработка алгоритма комплексной лучевойдиагностикипатологии надпочечников остается открытой и требует дальнейшего изучения.',
'summary': 'возможности магнитно-резонансной и компьютерной томографии в диагностике объемных образований надпочечников',
'doc_id': 'vozmozhnosti-magnitno-rezonansnoy-i-kompyuternoy-tomografii-v-diagnostike-obemnyh-obrazovaniy-nadpochechnikov',
'url': 'https://cyberleninka.ru/article/n/vozmozhnosti-magnitno-rezonansnoy-i-kompyuternoy-tomografii-v-diagnostike-obemnyh-obrazovaniy-nadpochechnikov',
'year': '2017'
}
Some dataset statistics are below:
| Feature | Mean Token Count | Median Token Count |
|---|---|---|
| Text | 12.67 | 12.00 |
| Summary | 221.00 | 214.00 |
Data Splits
| Dataset Split | Number of Instances in Split |
|---|---|
| Train | 23,711 |
| Validation | 1,321 |
| Test | 1,321 |
Dataset Creation
Source Data
Initial Data Collection and Normalization
- The source of data is the CyberLeninka clinical medicine domain articles.
- Parsing, cleaning and normalization scripts are here.
Who are the source language producers?
Texts and summaries were written by researchers at CyberLeninka.
Additional Information
Dataset Curators
The data was collected by Daniyar Smakov.
Licensing Information
Legal basis for distribution of the dataset: https://cyberleninka.ru/terms.html, paragraph 4.2. All rights belong to "www.gazeta.ru". All Site services and Scientific Works posted on the Site are intended solely for personal, non-commercial use.