README.md

---
license: apache-2.0
task_categories:
- text-classification
- feature-extraction
language:
- ru
size_categories:
- 10K<n<100K
tags:
- topics
- hierarchy
- books
- russian
- semantic-analysis
- knowledge-graph
- sudar
- topic-modeling
- hierarchical-classification
---

# Sudar Topics Dataset

## Описание

Иерархический датасет топиков из системы Sudar Books, содержащий структурированную информацию о тематических категориях с русскими описаниями и развернутыми характеристиками для векторной обработки.

## Структура данных

Датасет содержит следующие поля:

- **id** (int): Уникальный идентификатор топика
- **parent_id** (int, nullable): ID родительского топика в иерархии
- **hierarchy_level** (int): Уровень в иерархии (0 - корневой уровень)
- **topic_descr_ru** (string): Описание топика на русском языке
- **detailed_description** (string, nullable): Развернутое описание топика для векторной обработки
- **topic_type** (enum): Тип топика из предопределенного списка
- **books_count** (int): Количество книг, связанных с данным топиком

## Типы топиков

Датасет включает следующие типы топиков:

- **Хронология** - временные периоды и эпохи
- **События** - исторические и современные события
- **География** - географические объекты и регионы
- **Методология** - научные методы и подходы
- **Персоналии** - известные личности
- **Топик** - общие тематические категории
- **Типология** - классификационные системы
- **Корпоративные имена** - организации и учреждения

## Статистика датасета

- **Общее количество записей**: 1545
- **Количество корневых топиков**: 1379
- **Максимальный уровень иерархии**: 2
- **Общее количество связанных книг**: 3,838,768


### Распределение по типам топиков

- **География**: 107 (6.9%)
- **Корпоративные имена**: 17 (1.1%)
- **Методология**: 324 (21.0%)
- **Персоналии**: 69 (4.5%)
- **События**: 27 (1.7%)
- **Типология**: 140 (9.1%)
- **Топик**: 788 (51.0%)
- **Хронология**: 73 (4.7%)

### Распределение по уровням иерархии

- **Уровень 0**: 1402 (90.7%)
- **Уровень 1**: 16 (1.0%)
- **Уровень 2**: 127 (8.2%)

## Использование

### Загрузка датасета

```python
from datasets import load_dataset

# Загрузка полного датасета
dataset = load_dataset("valeronserg/SudarTopic")

# Доступ к данным
train_data = dataset['train']
print(f"Количество записей: {len(train_data)}")
```

### Примеры использования

```python
# Получение корневых топиков (без родителя)
root_topics = [topic for topic in train_data if topic['parent_id'] is None]

# Получение топиков определенного типа
methodology_topics = [topic for topic in train_data if topic['topic_type'] == 'Методология']

# Поиск топиков с большим количеством книг
popular_topics = [topic for topic in train_data if topic['books_count'] > 100]

# Построение иерархии
def build_hierarchy(topics):
    hierarchy = {}
    for topic in topics:
        parent_id = topic['parent_id']
        if parent_id is None:
            hierarchy[topic['id']] = {'topic': topic, 'children': []}
        else:
            if parent_id in hierarchy:
                hierarchy[parent_id]['children'].append(topic)
    return hierarchy
```

### Работа с векторными представлениями

```python
# Подготовка текстов для эмбеддингов
texts_for_embedding = []
for topic in train_data:
    # Объединяем описание и детальное описание
    full_text = f"{topic['topic_descr_ru']}"
    if topic['detailed_description']:
        full_text += f" {topic['detailed_description']}"
    texts_for_embedding.append(full_text)

# Создание эмбеддингов (пример с sentence-transformers)
from sentence_transformers import SentenceTransformer
model = SentenceTransformer('sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2')
embeddings = model.encode(texts_for_embedding)
```

## Применения

### 1. Классификация документов
- Автоматическая категоризация текстов по тематикам
- Построение иерархических классификаторов

### 2. Семантический поиск
- Поиск по смыслу в коллекциях документов
- Рекомендательные системы

### 3. Анализ знаний
- Построение графов знаний
- Анализ связей между темами

### 4. Образовательные приложения
- Системы навигации по образовательному контенту
- Персонализированное обучение

## Ограничения

- Описания представлены только на русском языке
- Иерархия может содержать разрывы (не все родительские топики присутствуют)

## Лицензия

Apache License 2.0

## Цитирование

Если вы используете этот датасет в своих исследованиях, пожалуйста, укажите:

```bibtex
@dataset{SudarTopic,
  title={Sudar Topic Dataset: Hierarchical Topic Classification for Russian Texts},
  author={[Valeron Serg]},
  year={2025},
  url={https://huggingface.co/datasets/valeronserg/SudarTopic},
  license={Apache License 2.0}
}
```

## Контакты

Для вопросов и предложений по датасету обращайтесь к [[email protected]].

## История изменений

- **v1.0.0** (2025-10-10): Первоначальная версия датасета