README.md

metadata

license: apache-2.0
task_categories:
  - text-classification
  - feature-extraction
language:
  - ru
size_categories:
  - 10K<n<100K
tags:
  - topics
  - hierarchy
  - books
  - russian
  - semantic-analysis
  - knowledge-graph
  - sudar
  - topic-modeling
  - hierarchical-classification

Sudar Topics Dataset

Описание

Иерархический датасет топиков из системы Sudar Books, содержащий структурированную информацию о тематических категориях с русскими описаниями и развернутыми характеристиками для векторной обработки.

Структура данных

Датасет содержит следующие поля:

• id (int): Уникальный идентификатор топика
• parent_id (int, nullable): ID родительского топика в иерархии
• hierarchy_level (int): Уровень в иерархии (0 - корневой уровень)
• topic_descr_ru (string): Описание топика на русском языке
• detailed_description (string, nullable): Развернутое описание топика для векторной обработки
• topic_type (enum): Тип топика из предопределенного списка
• books_count (int): Количество книг, связанных с данным топиком

Типы топиков

Датасет включает следующие типы топиков:

• Хронология - временные периоды и эпохи
• События - исторические и современные события
• География - географические объекты и регионы
• Методология - научные методы и подходы
• Персоналии - известные личности
• Топик - общие тематические категории
• Типология - классификационные системы
• Корпоративные имена - организации и учреждения

Статистика датасета

• Общее количество записей: 1545
• Количество корневых топиков: 1379
• Максимальный уровень иерархии: 2
• Общее количество связанных книг: 3,838,768

Распределение по типам топиков

• География: 107 (6.9%)
• Корпоративные имена: 17 (1.1%)
• Методология: 324 (21.0%)
• Персоналии: 69 (4.5%)
• События: 27 (1.7%)
• Типология: 140 (9.1%)
• Топик: 788 (51.0%)
• Хронология: 73 (4.7%)

Распределение по уровням иерархии

• Уровень 0: 1402 (90.7%)
• Уровень 1: 16 (1.0%)
• Уровень 2: 127 (8.2%)

Использование

Загрузка датасета

from datasets import load_dataset

# Загрузка полного датасета
dataset = load_dataset("valeronserg/SudarTopic")

# Доступ к данным
train_data = dataset['train']
print(f"Количество записей: {len(train_data)}")

Примеры использования

# Получение корневых топиков (без родителя)
root_topics = [topic for topic in train_data if topic['parent_id'] is None]

# Получение топиков определенного типа
methodology_topics = [topic for topic in train_data if topic['topic_type'] == 'Методология']

# Поиск топиков с большим количеством книг
popular_topics = [topic for topic in train_data if topic['books_count'] > 100]

# Построение иерархии
def build_hierarchy(topics):
    hierarchy = {}
    for topic in topics:
        parent_id = topic['parent_id']
        if parent_id is None:
            hierarchy[topic['id']] = {'topic': topic, 'children': []}
        else:
            if parent_id in hierarchy:
                hierarchy[parent_id]['children'].append(topic)
    return hierarchy

Работа с векторными представлениями

# Подготовка текстов для эмбеддингов
texts_for_embedding = []
for topic in train_data:
    # Объединяем описание и детальное описание
    full_text = f"{topic['topic_descr_ru']}"
    if topic['detailed_description']:
        full_text += f" {topic['detailed_description']}"
    texts_for_embedding.append(full_text)

# Создание эмбеддингов (пример с sentence-transformers)
from sentence_transformers import SentenceTransformer
model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
embeddings = model.encode(texts_for_embedding)

Применения

1. Классификация документов

• Автоматическая категоризация текстов по тематикам
• Построение иерархических классификаторов

2. Семантический поиск

• Поиск по смыслу в коллекциях документов
• Рекомендательные системы

3. Анализ знаний

• Построение графов знаний
• Анализ связей между темами

4. Образовательные приложения

• Системы навигации по образовательному контенту
• Персонализированное обучение

Ограничения

• Описания представлены только на русском языке
• Иерархия может содержать разрывы (не все родительские топики присутствуют)

Лицензия

Apache License 2.0

Цитирование

Если вы используете этот датасет в своих исследованиях, пожалуйста, укажите:

@dataset{SudarTopic,
  title={Sudar Topic Dataset: Hierarchical Topic Classification for Russian Texts},
  author={[Valeron Serg]},
  year={2025},
  url={https://huggingface.co/datasets/valeronserg/SudarTopic},
  license={Apache License 2.0}
}

Контакты

Для вопросов и предложений по датасету обращайтесь к [[email protected]].

История изменений

• v1.0.0 (2025-10-10): Первоначальная версия датасета