nvjob commited on
Commit
7e72821
·
verified ·
1 Parent(s): e7b7e5e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +32 -13
README.md CHANGED
@@ -12,17 +12,35 @@ task_ids:
12
 
13
  # Pikabushnik RuDataset
14
 
 
 
15
  ## Параметры датасета
16
  - Тип контента: только комментарии
17
  - Минимальный рейтинг комментария: 20
18
  - Тематика: посты с тегом "юмор"
19
  - Язык: русский
20
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21
  ## Структура данных
22
  - num - уникальный номер записи
23
  - system - системный промпт для модели
24
  - user - контекст (текст поста или родительского комментария)
25
- - assistant - текст комментария
26
  - u_tokens - количество токенов в контексте
27
  - a_tokens - количество токенов в комментарии
28
  - u_lang - язык контекста (ru)
@@ -30,23 +48,24 @@ task_ids:
30
  - cluster - случайный номер кластера
31
 
32
  ## Особенности обработки
33
- - Очистка от HTML-тегов
34
- - Удаление ссылок и упоминаний
35
  - Фильтрация коротких текстов (менее 3 слов)
36
  - Удаление комментариев на английском языке
37
- - Сохранение только комментариев с высоким рейтингом
38
- - Сохранение иерархии комментариев (ответы на посты и другие комментарии)
39
 
40
- ## Использование
41
- - Для обучения диалоговых моделей
42
- - Для fine-tuning существующих LLM
43
- - Для анализа юмористических диалогов
44
- - Для тестирования моделей на русском языке
 
45
 
46
  ## Оригинальный датасет:
47
 
48
- - Автор: [Ilya Gusev](https://huggingface.co/datasets/IlyaGusev/pikabu)
49
 
50
- ## Переработка датасета:
51
 
52
- - Автор: [Николай Веселов](https://nickveselov.ru/)
 
12
 
13
  # Pikabushnik RuDataset
14
 
15
+ Датасет комментариев с сайта Pikabu.ru для обучения чат-ботов и диалоговых моделей. Содержит высокорейтинговые комментарии из юмористических постов, структурированные в формате диалогов.
16
+
17
  ## Параметры датасета
18
  - Тип контента: только комментарии
19
  - Минимальный рейтинг комментария: 20
20
  - Тематика: посты с тегом "юмор"
21
  - Язык: русский
22
 
23
+ ## Структура диалогов
24
+ Датасет организован в виде диалоговых пар:
25
+
26
+ 1. Комментарии к посту:
27
+ - user: текст поста
28
+ - assistant: комментарий к посту
29
+
30
+ 2. Ответы на комментарии:
31
+ - user: текст родительского комментария
32
+ - assistant: ответ на комментарий
33
+
34
+ Это позволяет обучать модель:
35
+ - Отвечать на контекст поста релевантными комментариями
36
+ - Поддерживать диалог, отвечая на предыдущие комментарии
37
+ - Генерировать юмористические ответы в контексте обсуждения
38
+
39
  ## Структура данных
40
  - num - уникальный номер записи
41
  - system - системный промпт для модели
42
  - user - контекст (текст поста или родительского комментария)
43
+ - assistant - текст комментария-ответа
44
  - u_tokens - количество токенов в контексте
45
  - a_tokens - количество токенов в комментарии
46
  - u_lang - язык контекста (ru)
 
48
  - cluster - случайный номер кластера
49
 
50
  ## Особенности обработки
51
+ - Очистка от HTML-тегов и форматирования
52
+ - Удаление ссылок и упоминаний пользователей
53
  - Фильтрация коротких текстов (менее 3 слов)
54
  - Удаление комментариев на английском языке
55
+ - Сохранение только комментариев с высоким рейтингом (>20)
56
+ - Сохранение иерархии комментариев для правильного контекста
57
 
58
+ ## Использование для обучения чат-ботов
59
+ - Fine-tuning диалоговых LLM
60
+ - Обучение генерации контекстных ответов
61
+ - Тренировка поддержания диалога
62
+ - Обучение юмористическому стилю общения
63
+ - Тестирование качества генерации на русском языке
64
 
65
  ## Оригинальный датасет:
66
 
67
+ Автор: [Ilya Gusev](https://huggingface.co/datasets/IlyaGusev/pikabu)
68
 
69
+ ## Переделка датасета в Pikabushnik RuDataset:
70
 
71
+ Автор: [Николай Веселов](https://nickveselov.ru/)