---
task_categories:
- text-generation
language:
- ru
size_categories:
- 1M<n<10M
task_ids:
- language-modeling
- masked-language-modeling
---

# Pikabushnik RuDataset

Датасет комментариев с сайта Pikabu.ru для обучения чат-ботов и диалоговых моделей. Содержит высокорейтинговые комментарии из юмористических постов, структурированные в формате диалогов.

## Параметры датасета
- Тип контента: только комментарии
- Минимальный рейтинг комментария: 20
- Тематика: посты с тегом "юмор"
- Язык: русский

## Структура диалогов
Датасет организован в виде диалоговых пар:

1. Комментарии к посту:
   - user: текст поста
   - assistant: комментарий к посту

2. Ответы на комментарии:
   - user: текст родительского комментария
   - assistant: ответ на комментарий

Это позволяет обучать модель:
- Отвечать на контекст поста релевантными комментариями
- Поддерживать диалог, отвечая на предыдущие комментарии
- Генерировать юмористические ответы в контексте обсуждения

## Структура данных
- num - уникальный номер записи
- system - системный промпт для модели
- user - контекст (текст поста или родительского комментария)
- assistant - текст комментария-ответа
- u_tokens - количество токенов в контексте
- a_tokens - количество токенов в комментарии
- u_lang - язык контекста (ru)
- a_lang - язык комментария (ru)
- cluster - случайный номер кластера

## Особенности обработки
- Очистка от HTML-тегов и форматирования
- Удаление ссылок и упоминаний пользователей
- Фильтрация коротких текстов (менее 3 слов)
- Удаление комментариев на английском языке
- Сохранение только комментариев с высоким рейтингом (>20)
- Сохранение иерархии комментариев для правильного контекста

## Использование для обучения чат-ботов
- Fine-tuning диалоговых LLM
- Обучение генерации контекстных ответов
- Тренировка поддержания диалога
- Обучение юмористическому стилю общения
- Тестирование качества генерации на русском языке 

## Оригинальный датасет:

Автор: [Ilya Gusev](https://huggingface.co/datasets/IlyaGusev/pikabu)

## Переделка датасета в Pikabushnik RuDataset:

Автор: [Николай Веселов](https://nickveselov.ru/)