Dataset Viewer
0
sequencelengths 1
51
| 1
sequencelengths 1
51
|
|---|---|
[
"Незачто",
"друг"
] |
[
"Не|за|что",
"друг"
] |
[
"И",
"что"
] |
[
"И",
"что"
] |
[
"Дублировать",
"я",
"хз",
"это",
"к",
"разрабам",
"телеги",
"обращайся"
] |
[
"Дублировать",
"я",
"хрен|знает",
"это",
"к",
"разработчикам",
"телеграма",
"обращайся"
] |
[
"Старший",
"сетевой",
"архитектор",
"компании",
"Akamai",
"Джаред",
"Мауч",
"Jared",
"Mauch",
"из",
"штата",
"Мичиган",
"США",
"развернул",
"личную",
"полноценную",
"оптоволоконную",
"сеть",
"с",
"доступом",
"в",
"интернет"
] |
[
"Старший",
"сетевой",
"архитектор",
"компании",
"<foreign>",
"Джаред",
"Мауч",
"<foreign>",
"<foreign>",
"из",
"штата",
"Мичиган",
"США",
"развернул",
"личную",
"полноценную",
"оптоволоконную",
"сеть",
"с",
"доступом",
"в",
"интернет"
] |
[
"Готовка"
] |
[
"Готовка"
] |
[
"ИЗ",
"ЖИЗНИ",
"РЕДАКЦИИ"
] |
[
"Из",
"жизни",
"редакции"
] |
[
"Благодарю",
"за",
"отклик"
] |
[
"Благодарю",
"за",
"отклик"
] |
[
"Лучший"
] |
[
"Лучший"
] |
[
"Вам",
"у",
"нас",
"понравится"
] |
[
"Вам",
"у",
"нас",
"понравится"
] |
[
"Интересует",
"печать",
"визиток",
"хочется",
"чтобы",
"был",
"выбор",
"бумаги"
] |
[
"Интересует",
"печать",
"визиток",
"хочется",
"чтобы",
"был",
"выбор",
"бумаги"
] |
[
"кому",
"200"
] |
[
"Кому",
"200"
] |
[
"Наращивание",
"ногтей",
"30",
"3",
"4",
"часа",
"Лимассол",
"Ипсонас"
] |
[
"Наращивание",
"ногтей",
"30",
"3",
"4",
"часа",
"Лимасол",
"Ипсонас"
] |
[
"Опыт",
"работы",
"приветствуется"
] |
[
"Опыт",
"работы",
"приветствуется"
] |
[
"2",
"лишний"
] |
[
"2",
"лишний"
] |
[
"Мирай",
"из",
"будущего"
] |
[
"Мирай",
"из",
"будущего"
] |
[
"также",
"я",
"сейчас",
"прохожу",
"обучение",
"на",
"курсе",
"повышения",
"профессиональной",
"квалификации"
] |
[
"Также",
"я",
"сейчас",
"прохожу",
"обучение",
"на",
"курсе",
"повышения",
"профессиональной",
"квалификации"
] |
[
"Именно",
"но",
"с",
"одной",
"оговоркой"
] |
[
"Именно",
"но",
"с",
"одной",
"оговоркой"
] |
[
"Добрый",
"день"
] |
[
"Добрый",
"день"
] |
[
"Домашний",
"халуми",
"оливки",
"хлеб",
"орешки",
"колбаски",
"и",
"т",
"д"
] |
[
"Домашний",
"халуми",
"оливки",
"хлеб",
"орешки",
"колбаски",
"и",
"так",
"д"
] |
[
"если",
"что",
"то",
"не",
"выходит",
"попробуй",
"в",
"другом",
"ракурсе",
"например"
] |
[
"Если",
"что-то",
"<hyphen>",
"не",
"выходит",
"попробуй",
"в",
"другом",
"ракурсе",
"например"
] |
[
"может",
"не",
"по",
"версии",
"LTPO",
"а",
"по",
"технологии",
"LTPO"
] |
[
"Может",
"не",
"по",
"версии",
"<foreign>",
"а",
"по",
"технологии",
"<foreign>"
] |
[
"Выздоравливай"
] |
[
"Выздоравливай"
] |
[
"Мне",
"очень",
"нравится",
"твое",
"творчество"
] |
[
"Мне",
"очень",
"нравится",
"твоё",
"творчество"
] |
[
"Всем",
"доброго",
"дня"
] |
[
"Всем",
"доброго",
"дня"
] |
[
"Потому",
"что",
"Джеймса",
"Бонда",
"отличает",
"английский",
"лоск",
"шик",
"и",
"шарм"
] |
[
"Потому",
"что",
"Джеймса",
"Бонда",
"отличает",
"английский",
"лоск",
"шик",
"и",
"шарм"
] |
[
"Все",
"прокси",
"серверы",
"бесплатны",
"и",
"для",
"общественного",
"пользования"
] |
[
"Все",
"прокси",
"серверы",
"бесплатны",
"и",
"для",
"общественного",
"пользования"
] |
[
"Но",
"по",
"проводу",
"я",
"не",
"проверял"
] |
[
"Но",
"по",
"проводу",
"я",
"не",
"проверял"
] |
[
"Открыл",
"приложение",
"моего",
"кинетика",
"выбрал",
"нужное",
"устройство",
"эпл",
"тв",
"которое",
"в",
"роутере",
"было",
"зарегистрировано",
"ушёл",
"в",
"настройки",
"нашёл",
"интернет",
"фильтры",
"и",
"сменил",
"профиль",
"с",
"безопасного",
"на",
"без",
"фильтрации"
] |
[
"Открыл",
"приложение",
"моего",
"кинетика",
"выбрал",
"нужное",
"устройство",
"эпл",
"тв",
"которое",
"в",
"роутере",
"было",
"зарегистрировано",
"ушёл",
"в",
"настройки",
"нашёл",
"интернет",
"фильтры",
"и",
"сменил",
"профиль",
"с",
"безопасного",
"на",
"без",
"фильтрации"
] |
[
"Четвёртый"
] |
[
"Четвёртый"
] |
[
"А",
"у",
"меня",
"тел",
"дороже",
"вашего",
"говно",
"яблока"
] |
[
"А",
"у",
"меня",
"телефон",
"дороже",
"вашего",
"говно",
"яблока"
] |
[
"Ооо",
"моё",
"почтение"
] |
[
"<interjection>",
"моё",
"почтение"
] |
[
"Ты",
"экосистему",
"гугла",
"собираешь"
] |
[
"Ты",
"экосистему",
"гугла",
"собираешь"
] |
[
"Относительно",
"флагманы"
] |
[
"Относительно",
"флагманы"
] |
[
"2",
"часа",
"ночи"
] |
[
"2",
"часа",
"ночи"
] |
[
"Спасибо"
] |
[
"Спасибо"
] |
[
"жоский",
"пон",
"приследует"
] |
[
"Жёсткий",
"пон",
"преследует"
] |
[
"о",
"вау"
] |
[
"<interjection>",
"<interjection>"
] |
[
"Троттлить",
"начнет",
"еще",
"на",
"загрузке",
"В",
"андроид"
] |
[
"Троттлить",
"начнёт",
"ещё",
"на",
"загрузке",
"в",
"андроид"
] |
[
"скидывать",
"ценник",
"как",
"минимум"
] |
[
"Скидывать",
"ценник",
"как",
"минимум"
] |
[
"Какую",
"платформу",
"гаппса",
"выбирать"
] |
[
"Какую",
"платформу",
"гаппса",
"выбирать"
] |
[
"Там",
"полуторка"
] |
[
"Там",
"полуторка"
] |
[
"Хочу",
"есть"
] |
[
"Хочу",
"есть"
] |
[
"Ждем",
"пластик"
] |
[
"Ждём",
"пластик"
] |
[
"типа",
"прораб"
] |
[
"Типа",
"прораб"
] |
[
"блокировку",
"своих",
"приложений",
"в",
"App",
"Store"
] |
[
"блокировку",
"своих",
"приложений",
"в",
"<foreign>",
"<foreign>"
] |
[
"Киновод",
"8",
"серий",
"уже",
"посмотрел"
] |
[
"Киновод",
"8",
"серий",
"уже",
"посмотрел"
] |
[
"Вымираты",
"все",
"ближе",
"к",
"деменции"
] |
[
"Вымираты",
"всё",
"ближе",
"к",
"деменции"
] |
[
"Покупал",
"на",
"год"
] |
[
"Покупал",
"на",
"год"
] |
[
"ноно",
"там",
"ещё",
"пиксель",
"бадс",
"должены",
"выйти",
"сначала"
] |
[
"Но",
"там",
"ещё",
"пиксель",
"бадс",
"должны",
"выйти",
"сначала"
] |
[
"Миник",
"покупает",
"там",
"есть",
"тайп",
"си"
] |
[
"Миник",
"покупает",
"там",
"есть",
"тайп",
"си"
] |
[
"Что",
"за",
"спеки"
] |
[
"Что",
"за",
"спеки"
] |
[
"В",
"РФ",
"да",
"Украина",
"хз"
] |
[
"В",
"РФ",
"да",
"Украина",
"хрен|знает"
] |
[
"Я",
"рисовать",
"не",
"умею"
] |
[
"Я",
"рисовать",
"не",
"умею"
] |
[
"Просто",
"выбери",
"что",
"нравица",
"и",
"импровизируй"
] |
[
"Просто",
"выбери",
"что",
"нравится",
"и",
"импровизируй"
] |
[
"Это",
"обработка",
"в",
"пиксарте"
] |
[
"Это",
"обработка",
"в",
"пиксарте"
] |
[
"за",
"15",
"тысяч"
] |
[
"За",
"15",
"тысяч"
] |
[
"Все",
"чаты",
"есть",
"в",
"закрепе"
] |
[
"Все",
"чаты",
"есть",
"в",
"закрепе"
] |
[
"Бесплатные",
"сервисы",
"каждому"
] |
[
"Бесплатные",
"сервисы",
"каждому"
] |
[
"Наверное",
"единичные",
"случаи"
] |
[
"Наверное",
"единичные",
"случаи"
] |
[
"Вот",
"и",
"закрыли",
"ютюб"
] |
[
"Вот",
"и",
"закрыли",
"ютюб"
] |
[
"Совсем",
"плохо",
"видить",
"стал",
"не",
"подскажите"
] |
[
"Совсем",
"плохо",
"видеть",
"стал",
"не",
"подскажите"
] |
[
"Если",
"всё",
"равно",
"то",
"берите"
] |
[
"Если",
"всё",
"равно",
"то",
"берите"
] |
[
"все",
"равно",
"достоинств",
"у",
"него",
"больше",
"чем",
"недостатков"
] |
[
"Всё",
"равно",
"достоинств",
"у",
"него",
"больше",
"чем",
"недостатков"
] |
[
"Ботов",
"баним",
"сразу",
"как",
"видим",
"заранее",
"не",
"получается"
] |
[
"Ботов",
"баним",
"сразу",
"как",
"видим",
"заранее",
"не",
"получается"
] |
[
"Говорю",
"анатомтческие",
"термины",
"это",
"задница"
] |
[
"Говорю",
"анатомические",
"термины",
"это",
"задница"
] |
[
"И",
"есть",
"ли",
"вариант",
"накатить",
"на",
"него",
"кастом",
"а",
"то",
"оболочка",
"не",
"нравится"
] |
[
"И",
"есть",
"ли",
"вариант",
"накатить",
"на",
"него",
"кастом",
"а",
"то",
"оболочка",
"не",
"нравится"
] |
[
"Когда",
"пойдут",
"нормальные",
"компактные",
"смарты",
"по",
"норм",
"цене",
"а",
"не",
"30к",
"за",
"хз",
"чо"
] |
[
"Когда",
"пойдут",
"нормальные",
"компактные",
"смарты",
"по",
"норм",
"цене",
"а",
"не",
"30|тысяч",
"за",
"хрен|знает",
"что"
] |
[
"Хто",
"так",
"обзивается",
"тот",
"так",
"и",
"называется"
] |
[
"Кто",
"так",
"обзывается",
"тот",
"так",
"и",
"называется"
] |
[
"Что",
"делать"
] |
[
"Что",
"делать"
] |
[
"Не",
"знаю",
"что",
"такое",
"warp"
] |
[
"Не",
"знаю",
"что",
"такое",
"<foreign>"
] |
[
"И",
"главное",
"это",
"нахуй",
"не",
"нужно",
"опять",
"таки",
"когда",
"в",
"процессе",
"ты",
"субъект"
] |
[
"И",
"главное",
"это",
"нахуй",
"не",
"нужно",
"опять-таки",
"<hyphen>",
"когда",
"в",
"процессе",
"ты",
"субъект"
] |
[
"Ок",
"заработало",
"и",
"хорошо"
] |
[
"Ок",
"заработало",
"и",
"хорошо"
] |
[
"С",
"творческой",
"стороны"
] |
[
"С",
"творческой",
"стороны"
] |
[
"Моему",
"заказчику",
"панравилась"
] |
[
"Моему",
"заказчику",
"понравилась"
] |
[
"Не",
"пробовали",
"но",
"проверить",
"5",
"минут",
"настройки"
] |
[
"Не",
"пробовали",
"но",
"проверить",
"5",
"минут",
"настройки"
] |
[
"Камрады",
"привет"
] |
[
"Камрады",
"привет"
] |
[
"Может",
"сегодня",
"в",
"коем",
"то",
"веке",
"заебеню",
"традишку"
] |
[
"Может",
"сегодня",
"в",
"кои-то",
"<hyphen>",
"веке",
"заебеню",
"традишку"
] |
[
"Мне",
"из",
"инадзумы",
"нравиться",
"Кокоми",
"и",
"Яэ",
"мико",
"А",
"ещё",
"особенно",
"Итто",
"Всё",
"Ли",
"Юэ",
"Син",
"Цю",
"Шэнь",
"Хэ",
"Сян",
"Лин",
"Ху",
"Тао",
"Тарталья",
"Чжун",
"Ли",
"Чунь",
"Юнь",
"Монштад",
"Венти",
"Кейя",
"Диона",
"всё"
] |
[
"Мне",
"из",
"Инадзумы",
"нравится",
"Кокоми",
"и",
"Яэ",
"Мико",
"а",
"ещё",
"особенно",
"Итто",
"всё",
"Ли",
"Юэ",
"Син",
"Цю",
"Шэнь",
"Хэ",
"Сян",
"Лин",
"Ху",
"Тао",
"Тарталья",
"Чжун",
"Ли",
"Чунь",
"Юнь",
"Монштад",
"Венти",
"Кейя",
"Диона",
"всё"
] |
[
"А",
"так",
"вроде",
"3",
"как",
"у",
"других",
"не",
"знаю"
] |
[
"А",
"так",
"вроде",
"3",
"как",
"у",
"других",
"не",
"знаю"
] |
[
"Так",
"реально",
"час",
"сидит",
"и",
"поет",
"в",
"4",
"утра"
] |
[
"Так",
"реально",
"час",
"сидит",
"и",
"поёт",
"в",
"4",
"утра"
] |
[
"Мои",
"любимые",
"чипсы",
"сырные"
] |
[
"Мои",
"любимые",
"чипсы",
"сырные"
] |
[
"на",
"эту",
"тысячу",
"я",
"могу",
"несколько",
"других",
"взять"
] |
[
"На",
"эту",
"тысячу",
"я",
"могу",
"несколько",
"других",
"взять"
] |
[
"Кстати",
"у",
"меня",
"интересные",
"мысли",
"на",
"счёт",
"Nothing"
] |
[
"Кстати",
"у",
"меня",
"интересные",
"мысли",
"на",
"счёт",
"<foreign>"
] |
[
"Вк",
"дерьмо",
"ебанное"
] |
[
"Вк",
"дерьмо",
"ебанное"
] |
[
"У",
"Логи",
"вроде",
"относительно",
"безобидный",
"в",
"этом",
"плане"
] |
[
"У",
"Логи",
"вроде",
"относительно",
"безобидный",
"в",
"этом",
"плане"
] |
[
"А",
"на",
"другой",
"думаю"
] |
[
"А",
"на",
"другой",
"думаю"
] |
[
"По",
"факту",
"как",
"я",
"поняла",
"просят",
"по",
"настроению",
"врача"
] |
[
"По",
"факту",
"как",
"я",
"поняла",
"просят",
"по",
"настроению",
"врача"
] |
[
"Иа68",
"есть"
] |
[
"Иа68",
"есть"
] |
[
"привет",
"всем",
"оцените",
"аву",
"новую"
] |
[
"Привет",
"всем",
"оцените",
"аватарку",
"новую"
] |
[
"Telegram",
"исполняется",
"7",
"лет"
] |
[
"<foreign>",
"исполняется",
"7",
"лет"
] |
[
"Не",
"стоит",
"так",
"явно",
"демонстрировать",
"это",
"в",
"инете"
] |
[
"Не",
"стоит",
"так",
"явно",
"демонстрировать",
"это",
"в",
"интернете"
] |
[
"А",
"флагаманы"
] |
[
"А",
"флагманы"
] |
[
"С",
"бубном",
"и",
"танцами"
] |
[
"С",
"бубном",
"и",
"танцами"
] |
[
"И",
"ещё"
] |
[
"И",
"ещё"
] |
[
"ниправда",
"мой",
"жетстрим",
"топ"
] |
[
"Не|правда",
"мой",
"жетстрим",
"топ"
] |
[
"Причина",
"пид",
"ор",
"гейский",
"гейские"
] |
[
"Причина",
"пидорас",
"<conjoint>",
"гейский",
"гейские"
] |
[
"Третьих",
"пугает",
"нестабильность",
"системы"
] |
[
"Третьих",
"пугает",
"нестабильность",
"системы"
] |
[
"Но",
"блокировка",
"не",
"действовала"
] |
[
"Но",
"блокировка",
"не",
"действовала"
] |
[
"хорош",
"шутейка"
] |
[
"Хорошая",
"шутейка"
] |
[
"Ядро",
"прошить"
] |
[
"Ядро",
"прошить"
] |
End of preview. Expand
in Data Studio
TL;DR: Text Normalization for Social Media Corpus
Dataset Description
This dataset contains examples of Russian-language texts from social networks with distorted spelling (typos, abbreviations, etc.) and their normalized versions in json format. A detailed spelling correction protocol is given in the TBA article. The dataset size is 1930 sentence pairs. In each pair, the sentences are tokenized by words, and the lengths of both sentences in the pair are equal. If a token had to be divided during the normalization process, the division point is marked with the "|" symbol. If two tokens were combined, the placeholder is set in place of the second token (or , if the final spelling contains a hyphen at the place of the combination). Punctuation was excluded during pre-processing. Dataset excerpt:
...
[
[
"Где",
"то",
"сейчас",
"один",
"сисадмин",
"Ищу",
"работу",
"опыт",
"работы",
"Google",
"YouTube"
],
[
"Где-то",
"<hyphen>",
"сейчас",
"один",
"системный|администратор",
"Ищу",
"работу",
"опыт",
"работы",
"<foreign>",
"<foreign>"
]
],
...
Source Data
Social networks subcorpus from the Russian National Corpus.
License
CC-BY-NC-SA-4.0
Citation
TBA
- Downloads last month
- 10