add preproc notebook + extract sh script (no python though)

preprocessing/RuWiki-generate-triplets.ipynb

@@ -0,0 +1,743 @@
+{
+ "cells": [
+  {
+   "cell_type": "code",
+   "execution_count": 5,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "from topicnet.cooking_machine import Dataset\n",
+    "\n",
+    "\n",
+    "dataset = Dataset('../wikiextractor/good_ruwiki_vw.txt', batch_vectorizer_path=\"./ruwiki_batches\")\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 32,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "from topicnet.cooking_machine.dataset import get_modality_vw\n",
+    "import pandas as pd\n",
+    "\n",
+    "data_categories = dataset._data.vw_text.apply(lambda s: get_modality_vw(s, \"@categories\"))"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 33,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "\n",
+    "data = data_categories.apply(lambda x: [cat[:-2] for cat in x.split()])\n",
+    "data_categories = pd.DataFrame(data=data.values, index=data.index.rename(\"title\"), columns=[\"categories\"])"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 34,
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "text/html": [
+       "<div>\n",
+       "<style scoped>\n",
+       "    .dataframe tbody tr th:only-of-type {\n",
+       "        vertical-align: middle;\n",
+       "    }\n",
+       "\n",
+       "    .dataframe tbody tr th {\n",
+       "        vertical-align: top;\n",
+       "    }\n",
+       "\n",
+       "    .dataframe thead th {\n",
+       "        text-align: right;\n",
+       "    }\n",
+       "</style>\n",
+       "<table border=\"1\" class=\"dataframe\">\n",
+       "  <thead>\n",
+       "    <tr style=\"text-align: right;\">\n",
+       "      <th></th>\n",
+       "      <th>categories</th>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>title</th>\n",
+       "      <th></th>\n",
+       "    </tr>\n",
+       "  </thead>\n",
+       "  <tbody>\n",
+       "    <tr>\n",
+       "      <th>Санкт-Петербург</th>\n",
+       "      <td>[Санкт-Петербург, Всемирное_наследие_в_России,...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Дворцовая_площадь</th>\n",
+       "      <td>[Карл_Росси, Эрмитаж, Художественные_музеи_и_г...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Греко-персидские_войны</th>\n",
+       "      <td>[Греко-персидские_войны, Войны_Древней_Греции,...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Тихий_океан</th>\n",
+       "      <td>[Тихий_океан]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Атлантический_океан</th>\n",
+       "      <td>[Атлантический_океан]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Нева</th>\n",
+       "      <td>[Нева, Реки,_впадающие_в_Финский_залив, Реки_Л...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Тонкослойная_хроматография</th>\n",
+       "      <td>[Хроматография]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Атомно-абсорбционная_спектрометрия</th>\n",
+       "      <td>[Аналитическая_химия, Спектроскопия]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Протеомика</th>\n",
+       "      <td>[Биоинформатика, Протеомика, Белки]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Вирус_иммунодефицита_человека</th>\n",
+       "      <td>[Retroviridae, ВИЧ-инфекция]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Эпос_о_Гильгамеше</th>\n",
+       "      <td>[Сказания_о_Гильгамеше, Эпические_произведения...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Русский_язык</th>\n",
+       "      <td>[Русский_язык, Языки_России, Языки_Белоруссии]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Индуизм</th>\n",
+       "      <td>[Индуизм, Религия_в_Азии, Индоиранские_религии]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Спирты</th>\n",
+       "      <td>[Спирты]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Кикимора</th>\n",
+       "      <td>[Персонажи_русской_мифологии, Мифические_сущес...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Леший</th>\n",
+       "      <td>[Духи_леса, Духи_места_у_славян, Нечистая_сила...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Воронеж</th>\n",
+       "      <td>[Воронеж, Города,_основанные_в_XVI_веке, Город...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Солнце</th>\n",
+       "      <td>[Термоядерные_реакции, Солнце, Жёлтые_карлики]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Венера</th>\n",
+       "      <td>[Венера, Небесные_тела,_посещённые_спускаемыми...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Юпитер</th>\n",
+       "      <td>[Юпитер, Небесные_тела,_посещённые_спускаемыми...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>NTP</th>\n",
+       "      <td>[Протоколы_прикладного_уровня, Интернет-проток...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Чеченская_письменность</th>\n",
+       "      <td>[Кириллические_алфавиты, Алфавиты_на_основе_ла...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Нижний_Новгород</th>\n",
+       "      <td>[Нижний_Новгород, Населённые_пункты_городского...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Иванов,_Вячеслав_Иванович</th>\n",
+       "      <td>[Выпускники_1-й_Московской_гимназии, Писатели_...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Лейбниц,_Готфрид_Вильгельм</th>\n",
+       "      <td>[Члены_Прусской_академии_наук, Члены_Лондонско...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Гагарин,_Юрий_Алексеевич</th>\n",
+       "      <td>[Юрий_Гагарин, Персоналии_Гагарин, Погибшие_в_...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Финский_залив</th>\n",
+       "      <td>[Финский_залив, Заливы_Эстонии, Заливы_Ленингр...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Индонезия</th>\n",
+       "      <td>[Индонезия]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Ботсвана</th>\n",
+       "      <td>[Ботсвана]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Общая_теория_относительности</th>\n",
+       "      <td>[Теории_Альберта_Эйнштейна, Общая_теория_относ...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>...</th>\n",
+       "      <td>...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Административно-территориальное_деление_Башкурдистана</th>\n",
+       "      <td>[Административно-территориальное_деление_Башко...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Тёмный_американский_стриж</th>\n",
+       "      <td>[Cypseloides, Животные,_описанные_в_1848_году,...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Убийство_Марты_дель_Кастильо</th>\n",
+       "      <td>[Уголовные_дела_без_тела, Убийства_в_Испании, ...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Праздничное_шествие_с_песней._Коляда</th>\n",
+       "      <td>[Художники-примитивисты, Художники_наивного_ис...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Манойлов,_Владимир_Евстафьевич</th>\n",
+       "      <td>[Электротехники_СССР, Выпускники_Санкт-Петербу...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Невилл,_Джон,_3-й_барон_Невилл_из_Рэби</th>\n",
+       "      <td>[Невиллы, Бароны_Невилл_из_Рэби, Кавалеры_орде...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Чаннер,_Джордж_Николас</th>\n",
+       "      <td>[Генералы_Британской_Индийской_армии, Участник...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Сиффлит,_Леонард</th>\n",
+       "      <td>[Солдаты_Армии_Австралии, Военнопленные_Австра...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Ньютон,_Уильям</th>\n",
+       "      <td>[Гольфисты_Австралии, К��икетчики_Австралии, Иг...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Доганджи_Мехмед-паша</th>\n",
+       "      <td>[История_Османской_империи, Фавориты_монархов]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Инцидент_с_бейлербеем</th>\n",
+       "      <td>[История_Османской_империи, Восстания_в_Османс...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Касым-бей_Караманид</th>\n",
+       "      <td>[Караманиды]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Miru_Tights</th>\n",
+       "      <td>[Аниме_и_манга_о_школе]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Harrisonavis_croizeti</th>\n",
+       "      <td>[Вымершие_фламингообразные, Монотипические_род...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Смерть_вождя</th>\n",
+       "      <td>[Работы_Сергея_Меркурова, Лениниана, Иконограф...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Арест_принца_Дипонегоро_(картина_Салеха)</th>\n",
+       "      <td>[Картины_из_собраний_музея_президентского_двор...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Византийский_город</th>\n",
+       "      <td>[Население_Византии, Градостроительство_по_ист...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Шехзаде_Мустафа_(сын_Мехмеда_II)</th>\n",
+       "      <td>[Династия_Османов, Военные_Османской_империи]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Резня_в_Благае</th>\n",
+       "      <td>[Геноцид_сербов_(1941—1945)]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Пятнистолобый_американский_стриж</th>\n",
+       "      <td>[Cypseloides, Животные,_описанные_в_1945_году]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Бассет,_Ричард</th>\n",
+       "      <td>[Бассеты, Главные_шерифы_Лестершира]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Бикрофт,_Джон</th>\n",
+       "      <td>[Исследователи_Африки, Путешественники_Великоб...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Эдмунд_Плантагенет,_2-й_граф_Корнуолл</th>\n",
+       "      <td>[Плантагенеты, Графы_Корнуолл]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Королева_сердец</th>\n",
+       "      <td>[Фильмы-драмы_Дании, Фильмы-драмы_Швеции, Филь...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Карабаев,_Мухамеджан_Карабаевич</th>\n",
+       "      <td>[Статские_советники]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Бассет,_Филипп</th>\n",
+       "      <td>[Бассеты]</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Битва_при_Линкольне_(1217)</th>\n",
+       "      <td>[Сражения_Первой_баронской_войны, 1217_год, Ли...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Лю_Жэньхан</th>\n",
+       "      <td>[Философы_эпохи_Цин, Социалисты_Китая, Социали...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Реформа_эталонных_процентных_ставок</th>\n",
+       "      <td>[Процентные_ставки, Экономические_показатели, ...</td>\n",
+       "    </tr>\n",
+       "    <tr>\n",
+       "      <th>Ментеше-бей</th>\n",
+       "      <td>[Турецкие_династии]</td>\n",
+       "    </tr>\n",
+       "  </tbody>\n",
+       "</table>\n",
+       "<p>8603 rows × 1 columns</p>\n",
+       "</div>"
+      ],
+      "text/plain": [
+       "                                                                                           categories\n",
+       "title                                                                                                \n",
+       "Санкт-Петербург                                     [Санкт-Петербург, Всемирное_наследие_в_России,...\n",
+       "Дворцовая_площадь                                   [Карл_Росси, Эрмитаж, Художественные_музеи_и_г...\n",
+       "Греко-персидские_войны                              [Греко-персидские_войны, Войны_Древней_Греции,...\n",
+       "Тихий_океан                                                                             [Тихий_океан]\n",
+       "Атлантический_океан                                                             [Атлантический_океан]\n",
+       "Нева                                                [Нева, Реки,_впадающие_в_Финский_залив, Реки_Л...\n",
+       "Тонкослойная_хроматография                                                            [Хроматография]\n",
+       "Атомно-абсорбционная_спектрометрия                               [Аналитическая_химия, Спектроскопия]\n",
+       "Протеомика                                                        [Биоинформатика, Протеомика, Белки]\n",
+       "Вирус_иммунодефицита_человека                                            [Retroviridae, ВИЧ-инфекция]\n",
+       "Эпос_о_Гильгамеше                                   [Сказания_о_Гильгамеше, Эпические_произведения...\n",
+       "Русский_язык                                           [Русский_язык, Языки_России, Языки_Белоруссии]\n",
+       "Индуизм                                               [Индуизм, Религия_в_Азии, Индоиранские_религии]\n",
+       "Спирты                                                                                       [Спирты]\n",
+       "Кикимора                                            [Персонажи_русской_мифологии, Мифические_сущес...\n",
+       "Леший                                               [Духи_леса, Духи_места_у_славян, Нечистая_сила...\n",
+       "Воронеж                                             [Воронеж, Города,_основанные_в_XVI_веке, Город...\n",
+       "Солнце                                                 [Термоядерные_реакции, Солнце, Жёлтые_карлики]\n",
+       "Венера                                              [Венера, Небесные_тела,_посещённые_спускаемыми...\n",
+       "Юпитер                                              [Юпитер, Небесные_тела,_посещённые_спускаемыми...\n",
+       "NTP                                                 [Протоколы_прикладного_уровня, Интернет-проток...\n",
+       "Чеченская_письменность                              [Кириллические_алфавиты, Алфавиты_на_основе_ла...\n",
+       "Нижний_Новгород                                     [Нижний_Новгород, Населённые_пункты_городского...\n",
+       "Иванов,_Вячеслав_Иванович                           [Выпускники_1-й_Московской_гимназии, Писатели_...\n",
+       "Лейбниц,_Готфрид_Вильгельм                          [Члены_Прусской_академии_наук, Члены_Лондонско...\n",
+       "Гагарин,_Юрий_Алексеевич                            [Юрий_Гагарин, Персоналии_Гагарин, Погибшие_в_...\n",
+       "Финский_залив                                       [Финский_залив, Заливы_Эстонии, Заливы_Ленингр...\n",
+       "Индонезия                                                                                 [Индонезия]\n",
+       "Ботсвана                                                                                   [Ботсвана]\n",
+       "Общая_теория_относительности                        [Теории_Альберта_Эйнштейна, Общая_теория_относ...\n",
+       "...                                                                                               ...\n",
+       "Административно-территориальное_деление_Башкурд...  [Административно-территориальное_деление_Башко...\n",
+       "Тёмный_американский_стриж                           [Cypseloides, Животные,_описанные_в_1848_году,...\n",
+       "Убийство_Марты_дель_Кастильо                        [Уголовные_дела_без_тела, ��бийства_в_Испании, ...\n",
+       "Праздничное_шествие_с_песней._Коляда                [Художники-примитивисты, Художники_наивного_ис...\n",
+       "Манойлов,_Владимир_Евстафьевич                      [Электротехники_СССР, Выпускники_Санкт-Петербу...\n",
+       "Невилл,_Джон,_3-й_барон_Невилл_из_Рэби              [Невиллы, Бароны_Невилл_из_Рэби, Кавалеры_орде...\n",
+       "Чаннер,_Джордж_Николас                              [Генералы_Британской_Индийской_армии, Участник...\n",
+       "Сиффлит,_Леонард                                    [Солдаты_Армии_Австралии, Военнопленные_Австра...\n",
+       "Ньютон,_Уильям                                      [Гольфисты_Австралии, Крикетчики_Австралии, Иг...\n",
+       "Доганджи_Мехмед-паша                                   [История_Османской_империи, Фавориты_монархов]\n",
+       "Инцидент_с_бейлербеем                               [История_Османской_империи, Восстания_в_Османс...\n",
+       "Касым-бей_Караманид                                                                      [Караманиды]\n",
+       "Miru_Tights                                                                   [Аниме_и_манга_о_школе]\n",
+       "Harrisonavis_croizeti                               [Вымершие_фламингообразные, Монотипические_род...\n",
+       "Смерть_вождя                                        [Работы_Сергея_Меркурова, Лениниана, Иконограф...\n",
+       "Арест_принца_Дипонегоро_(картина_Салеха)            [Картины_из_собраний_музея_президентского_двор...\n",
+       "Византийский_город                                  [Население_Византии, Градостроительство_по_ист...\n",
+       "Шехзаде_Мустафа_(сын_Мехмеда_II)                        [Династия_Османов, Военные_Османской_империи]\n",
+       "Резня_в_Благае                                                           [Геноцид_сербов_(1941—1945)]\n",
+       "Пятнистолобый_американский_стриж                       [Cypseloides, Животные,_описанные_в_1945_году]\n",
+       "Бассет,_Ричард                                                   [Бассеты, Главные_шерифы_Лестершира]\n",
+       "Бикрофт,_Джон                                       [Исследователи_Африки, Путешественники_Великоб...\n",
+       "Эдмунд_Плантагенет,_2-й_граф_Корнуолл                                  [Плантагенеты, Графы_Корнуолл]\n",
+       "Королева_сердец                                     [Фильмы-драмы_Дании, Фильмы-драмы_Швеции, Филь...\n",
+       "Карабаев,_Мухамеджан_Карабаевич                                                  [Статские_советники]\n",
+       "Бассет,_Филипп                                                                              [Бассеты]\n",
+       "Битва_при_Линкольне_(1217)                          [Сражения_Первой_баронской_войны, 1217_год, Ли...\n",
+       "Лю_Жэньхан                                          [Философы_эпохи_Цин, Социалисты_Китая, Социали...\n",
+       "Реформа_эталонных_процентных_ставок                 [Процентные_ставки, Экономические_показатели, ...\n",
+       "Ментеше-бей                                                                       [Турецкие_династии]\n",
+       "\n",
+       "[8603 rows x 1 columns]"
+      ]
+     },
+     "execution_count": 34,
+     "metadata": {},
+     "output_type": "execute_result"
+    }
+   ],
+   "source": [
+    "data_categories"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 85,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "\n",
+    "import numpy as np\n",
+    "\n",
+    "THRESHOLD = 0\n",
+    "\n",
+    "def randomly_select(data_orig, point_a, should_intersect):\n",
+    "    attempts_left = 100\n",
+    "    while attempts_left > 0:\n",
+    "        rnd_idx_b = np.random.choice(data_orig.shape[0])\n",
+    "        point_b = data_orig.iloc[rnd_idx_b]\n",
+    "        intersection = set(point_b.categories) & set(point_a.categories)\n",
+    "        is_big = (len(intersection) > THRESHOLD)\n",
+    "        if should_intersect == is_big:\n",
+    "            # if is_big:\n",
+    "            #    print(point_a.title, point_b.title, intersection)\n",
+    "            return point_b.title, rnd_idx_b, intersection\n",
+    "        attempts_left -= 1\n",
+    "    return None, None, None\n",
+    "\n",
+    "def generate_triplet(data_orig):\n",
+    "\n",
+    "    rnd_idx_a = np.random.choice(data_orig.shape[0])\n",
+    "    point_a = data_orig.iloc[rnd_idx_a]\n",
+    "    point_b, rnd_idx_b, intersection = randomly_select(data_orig, point_a, should_intersect=True)\n",
+    "    point_c, rnd_idx_c, empty_intersection = randomly_select(data_orig, point_a, should_intersect=False)\n",
+    "    # return [point_a, point_b, point_c]\n",
+    "    return [point_a.title, point_b, point_c, intersection]\n",
+    "    # return [rnd_idx_a, rnd_idx_b, rnd_idx_c]\n",
+    "\n",
+    "    \n",
+    "    "
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 91,
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stderr",
+     "output_type": "stream",
+     "text": [
+      "100%|██████████| 10000/10000 [01:57<00:00, 85.28it/s]\n"
+     ]
+    },
+    {
+     "data": {
+      "text/plain": [
+       "2094"
+      ]
+     },
+     "execution_count": 91,
+     "metadata": {},
+     "output_type": "execute_result"
+    }
+   ],
+   "source": [
+    "from tqdm import tqdm\n",
+    "\n",
+    "triplets = []\n",
+    "\n",
+    "for i in tqdm(range(10000)):\n",
+    "    a, b, c, explanation = generate_triplet(data_categories.reset_index())\n",
+    "    if b is not None and c is not None:\n",
+    "        triplets.append( (a, b, c, explanation) )\n",
+    "\n",
+    "len(triplets)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 93,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "import pickle\n",
+    "\n",
+    "with open(\"triplets_ruwiki_good.p\", \"wb\") as f:\n",
+    "    pickle.dump(triplets, f)\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 96,
+   "metadata": {},
+   "outputs": [
+    {
+     "data": {
+      "text/plain": [
+       "{'@categories', '@lemmatized', '@ngramms'}"
+      ]
+     },
+     "execution_count": 96,
+     "metadata": {},
+     "output_type": "execute_result"
+    }
+   ],
+   "source": [
+    "dataset.get_possible_modalities()"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "## Scoring model by ranking quality"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 111,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "from topicnet.cooking_machine.models import BaseScore as BaseTopicNetScore, TopicModel\n",
+    "\n",
+    "\n",
+    "class ValidationRankingQuality(BaseTopicNetScore):\n",
+    "    def __init__(self, validation_dataset, triplets):\n",
+    "        super().__init__()\n",
+    "\n",
+    "        self.validation_dataset = validation_dataset\n",
+    "        self.triplets = triplets\n",
+    "\n",
+    "    def call(self, model: TopicModel):\n",
+    "        theta = model.get_theta(dataset=self.validation_dataset)\n",
+    "        \n",
+    "        correct_rankings = 0\n",
+    "\n",
+    "        for (a, b, c, _) in self.triplets:\n",
+    "            # L1 distance, just for example\n",
+    "            similar_dist = sum(abs(theta[a] - theta[b]))\n",
+    "            diffrnt_dist = sum(abs(theta[a] - theta[c]))\n",
+    "\n",
+    "            correct_rankings += (similar_dist < diffrnt_dist)\n",
+    "\n",
+    "        return correct_rankings / len(self.triplets)\n",
+    "\n",
+    "        "
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 112,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "import artm\n",
+    "\n",
+    "artm_model = artm.ARTM(\n",
+    "    num_topics=20, \n",
+    "    dictionary=dataset.get_dictionary(),\n",
+    "    class_ids={'@lemmatized': 1, '@ngramms': 50},  # absolute values, just for example\n",
+    "    theta_columns_naming=\"title\"\n",
+    ")\n",
+    "\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 113,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "tm = TopicModel(artm_model, custom_scores={\"ranking\": ValidationRankingQuality(dataset, triplets)})"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 116,
+   "metadata": {
+    "scrolled": true
+   },
+   "outputs": [],
+   "source": [
+    "tm._fit(dataset.get_batch_vectorizer(), 10)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 119,
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "0.8911174785100286\n"
+     ]
+    },
+    {
+     "data": {
+      "text/plain": [
+       "[<matplotlib.lines.Line2D at 0x7f4f69b56b00>]"
+      ]
+     },
+     "execution_count": 119,
+     "metadata": {},
+     "output_type": "execute_result"
+    },
+    {
+     "data": {
+      "image/png": "iVBORw0KGgoAAAANSUhEUgAAAXoAAAD6CAYAAACvZ4z8AAAABHNCSVQICAgIfAhkiAAAAAlwSFlzAAALEgAACxIB0t1+/AAAADh0RVh0U29mdHdhcmUAbWF0cGxvdGxpYiB2ZXJzaW9uMy4xLjEsIGh0dHA6Ly9tYXRwbG90bGliLm9yZy8QZhcZAAAds0lEQVR4nO3de3SV9Z3v8fc395ALBJJwC5dwE7BW0YgIotaqRTut7fRywEu1irZdo6d12jXLOj0zXbbOzJmZM3XWOrZnBKmtVqnH3pjK1OqpThEBCYo6QIEQbiEICbckQMhlf88feyduYoAN7OTZefbntdZePJffk3z3Jvnw8NvP99nm7oiISHhlBF2AiIj0LQW9iEjIKehFREJOQS8iEnIKehGRkFPQi4iEXEJBb2bzzGyzmdWY2UO97B9nZv/PzN41s9fMrCJu351mtjX2uDOZxYuIyJnZma6jN7NMYAtwA1AHrAUWuPvGuDH/F/itu//EzK4Dvuzud5jZUKAaqAIcWAdc5u6HTvX9SktLffz48ef3rERE0sy6desa3b2st31ZCRw/E6hx91oAM1sK3AJsjBszHXgwtvwq8OvY8ieAl939YOzYl4F5wHOn+mbjx4+nuro6gbJERKSLme081b5Epm5GA7vj1uti2+K9A3wutvxZoMjMhiV4LGZ2n5lVm1l1Q0NDAiWJiEiiEgl662Vbz/mebwHXmNnbwDXAHqAjwWNx9yfcvcrdq8rKev2fh4iInKNEpm7qgDFx6xVAffwAd68H/hzAzAqBz7n7ETOrA67tcexr51GviIicpUTO6NcCk82s0sxygPnAsvgBZlZqZl1f69vAktjyS8CNZlZiZiXAjbFtIiLST84Y9O7eAdxPNKA3Ac+7+wYze8TMPh0bdi2w2cy2AMOBR2PHHgS+R/Qfi7XAI11vzIqISP844+WV/a2qqsp11Y2IyNkxs3XuXtXbPnXGioiEXCJvxoqIhFZ7Z4TDx9rpjDid7kQiTkfE6Yw4EY/+2bXcEYnu/2AsdEQisXF86Jj4r9nZY3vXMRF3Ojqj+0cU53HrFWOT/hwV9CISam0dEfYeOU7doePUHToW+/M4e2Lr7ze1EkmRGewZY4co6EVEejrR0Un94da4ED8WC/HoY19zK/FvRWYYjBycz+iSfGZNGEZFST5lRblkZmSQmQEZZmRlGhlmZGYYmWZkZBhZGdE/M2Pbu/dnxI+DzK6xpx33wXLX9gwDs95aj86fgl5EUlpreyd7Dh/vJcSjwb6/+cRJ4zMzjJGD86goyWfOpFIqSvJjj0FUlOQzYnAe2Znp9fakgl5EAnW8rZM9h4+xu3s65eQplsaWk4M8K8MYNSQa3tdMKesO8IqS6Fn6iOI8stIsyM9EQS8i5621vZOm1naajnfQ1NpOc2sHTcfbT9oWXf9ge3NrB4eOtnHgaNtJXys70xg9JHoGfv208ujy0Oj66CH5DC/OIzOjb6Y4wkpBL5Lm3J3W9kgsfNs5copgPl2It3VETvs9sjONwfnZFOVlU5yXRXF+NqMG5zN4UHYs1D+YXikrzCVDQZ5UCnqRkOvojLD70HG27mumpqGFmv0tbG88yuFj7d2B3d55+stOcrMyoiGdn0VxXjbF+dlUlORTnJ8dW49uL4qFeHFeNoPjxuZmZfTZG41yZgp6kZBobe9ke+NRava3nPTY3niUts4PzrhHFOcxsbyAMSWD4gL65BAvjgvsorws8rIzA3xmcr4U9CIDTMuJju4Q37q/mW2x5V0Hj3VfD55hMGboICaXF3Lt1DImlRUyeXgRE8sKKMrLDvYJSL9T0IukqAMtJ6KB3tDC1n0tbItNu+w90to9JjvTmFBayIWjBvPpS0YzubyQSeWFVJYW6CxcuinoRQLk7uw90ho7O48G+bbYmfqhY+3d4wblZDKpvJArJwxjYnlhd6CPHTpIlxLKGSnoRfqBu1N/pJVN9U1s2d/cHeg1+1s42tbZPW7IoGwmlxcy7yMjmFRexKRYoI8sztOVKHLOFPQiSdbWEWHr/mY27W1mY30TG/ceYdPeZo4c/+AMfURxHpPKC/lC1ZjuMJ9UXsiwghxdnSJJp6AXOQ+Hj7WxcW9TLNCb2LS3mZr9zd2XK+ZlZzB1RDGf/OhIpo0sZvrIIiYPL6JYb4hKP1LQiyQgEnF2HTzGpr1N3cG+aW8T9XFvjJYX5TJ9VDHXXlDG9JHFTB9VzPhhBerilMAp6EV6aG3vZPP7zScF+qa9Td1z6ZkZxsSyAi6vHNod6NNGFlNamBtw5SK9U9BLWmtoPnFSoG/c20RtQ0v39eiFuVlMG1nE5y+r6A70KcOLdOmiDCgKekkLnRFne2MLG+qj8+hd4R5/Z8TRQ/KZNrKYmy8ayfSRRUwfOZiKknxd7SIDnoJeQsnd2bKvhZU1jbyxrZE1tQdpPtEBRJuMJpcXce0FZbE3SKOPwYP0BqmEk4JeQmP3wWOsrGlk5bYDrNrWSGNL9Pa344YN4s8uHsVl40q4cFQxE8sKyclSk5GkDwW9DFj7m1tZte0Ab9QcYOW2RuoOHQegrCiXqyaVMntSKbMnDqOiZFDAlYoES0EvA0ZTaztrag92T8ds2dcCQHFeFrMmDOPeuROYM2kYE8sK1XQkEkdBLymrtb2T6h2HeGNbdDrmvbrDRDzahHT5+KF8dkYFcyYN48JRg3WtushpKOglZXR0Rnin7girtjWysuYA63Ydoq0jQlaGcfGYIdz/sUnMnlTKjLFDyM3S5Y0iiVLQS2AiEWfzvmbe2HaAN2oaWbP9IC2xK2OmjyzmS7PGMWdSKZdXDqUwVz+qIudKvz3Sb9yjtxFYWXOAN7Y1smrbge4Phq4sLeDTl4xizsRSrpw4jKEFOQFXKxIeCnrpUy0nOnhl477oPHvNAfYcjl4ZU16Uy9VTypg9cRizJ5Uyekh+wJWKhJeCXvrMwaNtLHhiNZv3NTM4P5srJwzjK9dMYPbEUiaWFejKGJF+oqCXPnH4WBu3L17DjgNHWfylKj42tVxXxogEREEvSdfU2s6dS96kZn8Li+6s4popZUGXJJLW1AcuSdVyooMv/3gtG+qb+OFtlyrkRVKAzuglaY63dXLPU2tZv/sw/3vBDK6fPjzokkQEndFLkrS2d3Lf09Ws3XGQf/nixdx00cigSxKRmISC3szmmdlmM6sxs4d62T/WzF41s7fN7F0zuzm2fbyZHTez9bHH/0n2E5DgtXVE+Noz61ixtZF//PzF3HLJ6KBLEpE4Z5y6MbNM4HHgBqAOWGtmy9x9Y9yw7wDPu/uPzGw6sBwYH9u3zd0vSW7ZkiraOyPc/+xbvLq5gb/77EV8/rKKoEsSkR4SOaOfCdS4e627twFLgVt6jHGgOLY8GKhPXomSqjo6I3zj5+v5/cZ9fPdT07n1irFBlyQivUgk6EcDu+PW62Lb4n0XuN3M6oiezT8Qt68yNqXzn2Y2t7dvYGb3mVm1mVU3NDQkXr0EpjPi/NUL7/Liu3t5+Oap3DWnMuiSROQUEgn63rpcvMf6AuApd68AbgaeNrMMYC8w1t1nAH8JPGtmxT2Oxd2fcPcqd68qK9PleKkuEnH++lfv8cu39/CtG6dw39UTgy5JRE4jkaCvA8bErVfw4amZe4DnAdx9FZAHlLr7CXc/ENu+DtgGTDnfoiU47s7fLtvA0rW7eeC6Sdx/3eSgSxKRM0gk6NcCk82s0sxygPnAsh5jdgEfBzCzaUSDvsHMymJv5mJmE4DJQG2yipf+5e58/8VNPL16J1+5egJ/eYP+zRYZCM541Y27d5jZ/cBLQCawxN03mNkjQLW7LwO+CSwysweJTuvc5e5uZlcDj5hZB9AJfNXdD/bZs5E+4+7800ubefL17dw1ezwP3TRVNyUTGSDMved0e7Cqqqq8uro66DKkh8de2cJjr2zl1ivG8uhnPqKQF0kxZrbO3at626fOWDmjH75Ww2OvbOXzl1Xw/VsU8iIDjYJeTmvxilr+8XebueWSUfzPz32UDN1qWGTAUdDLKT29agfff3ETN31kBP/rCxfrfvIiA5SCXnr187W7+B+/2cD108r51/kzyMrUj4rIQKXfXvmQX71dx0O/fI9rppTx+G2XkpOlHxORgUy/wXKS375bzzeff4crJwzj3+64jNyszKBLEpHzpKCXbi9teJ+vL13PZeNKWHxnFXnZCnmRMFDQCwCv/mk/9z/7FheNHsySuy5nUI4+fEwkLBT0wutbG/nKM+uYOqKYn9w9k6K87KBLEpEkUtCnudW1B1j407VMKC3gp3fPZHC+Ql4kbBT0aWzdzoPc/dRaxpQM4pmFV1BSkBN0SSLSBxT0aeqd3Ye5a8lahhfn8bOFV1BamBt0SSLSRxT0aWhD/RHueHINQwqyefbeKygvzgu6JBHpQwr6NLP5/WZuX7yGwtwsnl04i5GD84MuSUT6mII+jWxraOG2xWvIycrg2XtnMWbooKBLEpF+oKBPEzsPHOXWRasB52cLZzG+tCDokkSknyjo00DdoWPcumgNbR0RfrZwFpPKC4MuSUT6kYI+5PYeOc6ti9bQ3NrO0/dcwQUjioIuSUT6mfrcQ2x/Uyu3LVrDwaNtPLPwCj4yenDQJYlIAHRGH1IHj7Zx2+I1vN/Uyk/uvpxLxgwJuiQRCYjO6EPqe7/dyM6Dx/jJl2dy2bihQZcjIgHSGX0IvVd3hF+9vYeFV1Vy5cRhQZcjIgFT0IeMu/Po8o0MK8jha9dODLocEUkBCvqQeWXTflbXHuQb10/W7YZFBFDQh0p7Z4S//49NTCgrYP7MsUGXIyIpQkEfIkvf3EVtw1Eevmka2Zn6qxWRKKVBSDS1tvODV7Yya8JQPj6tPOhyRCSFKOhD4kevbePg0Tb++ubpmFnQ5YhIClHQh8Cew8d58vXt/PmM0VxUoe5XETmZgj4E/vmlzRjwzU9cEHQpIpKCFPQDXFdz1D1XVTJ6iD5EREQ+TEE/gLk7339RzVEicnoK+gHslU37WbP9IN+4YYqao0TklBT0A1RXc9TEsgLmXz4m6HJEJIUp6Aeoruaob6s5SkTOIKGEMLN5ZrbZzGrM7KFe9o81s1fN7G0ze9fMbo7b9+3YcZvN7BPJLD5dqTlKRM7GGe9Hb2aZwOPADUAdsNbMlrn7xrhh3wGed/cfmdl0YDkwPrY8H7gQGAW8YmZT3L0z2U8knXQ1R33nk2qOEpEzS+SMfiZQ4+617t4GLAVu6THGgeLY8mCgPrZ8C7DU3U+4+3agJvb15BzFN0fpowFFJBGJBP1oYHfcel1sW7zvArebWR3Rs/kHzuJYzOw+M6s2s+qGhoYES09Pao4SkbOVSND3NjfgPdYXAE+5ewVwM/C0mWUkeCzu/oS7V7l7VVlZWQIlpad36w6rOUpEzloinxlbB8Rfv1fBB1MzXe4B5gG4+yozywNKEzxWEuDuPPriJjVHichZS+SMfi0w2cwqzSyH6Jury3qM2QV8HMDMpgF5QENs3HwzyzWzSmAy8Gayik8nao4SkXN1xjN6d+8ws/uBl4BMYIm7bzCzR4Bqd18GfBNYZGYPEp2aucvdHdhgZs8DG4EO4C90xc3Za++M8PfL1RwlIucmkakb3H050TdZ47f9TdzyRmDOKY59FHj0PGpMe8+9uYvaxqMs/lKVmqNE5KwpNVJcU2s7j72ylSsnDFNzlIicEwV9iuv+5KhPTlNzlIicEwV9Cqs7dEzNUSJy3hT0KayrOepbao4SkfOgoE9R79Yd5tfr61k4t5JRao4SkfOgoE9B8c1RX71GzVEicn4U9Cno5Y371BwlIkmjoE8x7Z0R/uE//sTEsgIWqDlKRJJAQZ9iupqjHr55GllqjhKRJFCSpJD45qjrpqo5SkSSQ0GfQn74qpqjRCT5FPQpou7QMZasVHOUiCSfgj5FqDlKRPqKgj4FqDlKRPqSgj5g7s731RwlIn1IQR+wlzfu4001R4lIH1LQB0jNUSLSHxT0AVJzlIj0B6VLQNQcJSL9RUEfkB++uo1Dx9QcJSJ9T0EfgK7mqM+qOUpE+oGCPgDdzVE3qjlKRPqegr6fvbNbzVEi0r8U9P3I3Xl0+SZKC3P42rWTgi5HRNKEgr4fdTdHXT+FwtysoMsRkTShoO8n8c1R89UcJSL9SEHfT55do+YoEQmGEqcfRJujtjB7opqjRKT/Kej7wQ9f3cbh4+08fLOao0Sk/yno+5iao0QkaAr6PvZPao4SkYAp6PvQO7sP85v19dw7d4Kao0QkMAr6PhLfHPXVa/XJUSISHAV9H/m9mqNEJEUo6PtAV3PUpPJCNUeJSOASCnozm2dmm82sxswe6mX/D8xsfeyxxcwOx+3rjNu3LJnFp6pn1+xie+NRHr55qpqjRCRwZ5xTMLNM4HHgBqAOWGtmy9x9Y9cYd38wbvwDwIy4L3Hc3S9JXsmpLb456mMXqDlKRIKXyOnmTKDG3WvdvQ1YCtxymvELgOeSUdxA9MzqnRw61s63b1JzlIikhkSCfjSwO269LrbtQ8xsHFAJ/CFuc56ZVZvZajP7zCmOuy82prqhoSHB0lPPiY5Onlq5g7mTS7moQs1RIpIaEgn63k5L/RRj5wMvuHtn3Lax7l4F3Ao8ZmYfutbQ3Z9w9yp3ryorK0ugpNS0bH09+5tPcO/cCUGXIiLSLZGgrwPiLx2pAOpPMXY+PaZt3L0+9mct8Bonz9+HhruzaEUtU0cUMXdyadDliIh0SyTo1wKTzazSzHKIhvmHrp4xswuAEmBV3LYSM8uNLZcCc4CNPY8Ng//c0sCWfS3cO3eC5uZFJKWc8aobd+8ws/uBl4BMYIm7bzCzR4Bqd+8K/QXAUnePn9aZBvybmUWI/qPyD/FX64TJ4hXbGV6cy6cuHhV0KSIiJ0moZdPdlwPLe2z7mx7r3+3luDeAi86jvgFhQ/0RXq9p5KGbppKTpevmRSS1KJWSYPGK7RTkZLJg5tigSxER+RAF/XmqP3ycf3+nnvkzxzI4PzvockREPkRBf56eemMHDnx5zvigSxER6ZWC/jw0tbbz7Jpd3HzRSCpKBgVdjohIrxT05+Hnb+6m5UQH986tDLoUEZFTUtCfo/bOCEtWbmfWhKF8tGJI0OWIiJySgv4cvfjuXvYeaeW+q3W7AxFJbQr6c9B1u4NJ5YVcO0W3IhaR1KagPwerth1gQ30T986tJCNDtzsQkdSmoD8HT6yopbQwl1su6fVuzSIiKUVBf5Y2v9/Ma5sbuGv2OPKyM4MuR0TkjBT0Z2nxilrysjO47YpxQZciIpIQBf1Z2N/Uyq/X7+GLVWMoKcgJuhwRkYQo6M/CU2/soCPi3HOVGqREZOBQ0Cfo6IkOnlm9k3kXjmDcsIKgyxERSZiCPkHPV++mqbWDe9UgJSIDjII+AR2dEZ58fTtV40q4dGxJ0OWIiJwVBX0CXtqwj7pDx3U2LyIDkoL+DNydJ/64jcrSAq6fNjzockREzpqC/gzW7jjEO3VHuOeqSjJ1uwMRGYAU9GfwxB9rKRmUzecurQi6FBGRc6KgP41tDS28smkfd1w5nvwc3e5ARAYmBf1pLF6xnZysDL50pW53ICIDl4L+FBpbTvCLt+r43KUVlBbmBl2OiMg5U9Cfwk9X7aStI8JCfR6siAxwCvpeHG/r5OlVO7h+2nAmlhUGXY6IyHlR0PfiF2/VcehYuz4PVkRCQUHfQ2fEefL17Vw8ZgiXj9ftDkRk4FPQ9/DKpn1sbzzKfXMnYKYGKREZ+BT0PSz6Yy0VJfl84kLd7kBEwkFBH2fdzkNU7zzEPVdVkpWpl0ZEwkFpFmfxilqK87L4YtWYoEsREUkaBX3MzgNH+d2G97l91jgKcrOCLkdEJGkU9DFPvr6drAzjrtnjgy5FRCSpFPTAoaNtPF+9m89cMpry4rygyxERSaqEgt7M5pnZZjOrMbOHetn/AzNbH3tsMbPDcfvuNLOtscedySw+WZ5ZvZPW9og+QUpEQumMk9Fmlgk8DtwA1AFrzWyZu2/sGuPuD8aNfwCYEVseCvwtUAU4sC527KGkPovz0NreyU9W7eTaC8qYMrwo6HJERJIukTP6mUCNu9e6exuwFLjlNOMXAM/Flj8BvOzuB2Ph/jIw73wKTrbfrN9DY8sJ7p2rs3kRCadEgn40sDtuvS627UPMbBxQCfzhbI41s/vMrNrMqhsaGhKpOykiEWfRiu1MH1nM7InD+u37ioj0p0SCvrf7APgpxs4HXnD3zrM51t2fcPcqd68qKytLoKTkeG3Lfmr2t3Df1brdgYiEVyJBXwfEdxBVAPWnGDufD6ZtzvbYfvfEH2sZOTiPT350ZNCliIj0mUSCfi0w2cwqzSyHaJgv6znIzC4ASoBVcZtfAm40sxIzKwFujG0L3Lt1h1lde5C751SSrdsdiEiInfGqG3fvMLP7iQZ0JrDE3TeY2SNAtbt3hf4CYKm7e9yxB83se0T/sQB4xN0PJvcpnJtFK7ZTlJvF/Jm63YGIhFtCvf7uvhxY3mPb3/RY/+4pjl0CLDnH+vrE7oPHWP7eXu65qpKivOygyxER6VNpOWfx45U7MNDtDkQkLaRd0B853s7P1+7iUxePYtSQ/KDLERHpc2kX9M+9uYujbZ0snFsZdCkiIv0irYK+rSPCj1duZ86kYVw4anDQ5YiI9Iu0Cvp/f6eefU263YGIpJe0CXp3Z9GKWi4YXsQ1U/qv+1ZEJGhpE/Qrtjbyp/ebWTi3Urc7EJG0kjZBv2hFLeVFuXz6klFBlyIi0q/SIug31jexYmsjd80ZT25WZtDliIj0q7QI+sUrahmUk8ltM8cFXYqISL8LfdDvPXKcZe/U898uH8PgQbrdgYikn9AH/VNv7CDizt1z1CAlIukp1EHf3NrOs6t3cdNFIxkzdFDQ5YiIBCLUQf/ztbtpPtHBfWqQEpE0Ftqgb++M8OOVO5hZOZSLxwwJuhwRkcCENuiXv7eXPYeP62xeRNJeKIO+63YHE8oKuG5qedDliIgEKpRBv6r2AP+1p4l7504gI0O3OxCR9BbKoF/0x1pKC3P47IzRQZciIhK40AX91n3NvLq5gTtmjScvW7c7EBEJXdAvXrGd3KwM7rhStzsQEYGQBf3+5lZ+9fYevlBVwdCCnKDLERFJCaEK+p++sZP2SIR7rtIllSIiXUIT9MfaOnh69U5unD6cytKCoMsREUkZWUEXkCzNrR1cNamUu68aH3QpIiIpJTRBP7w4j8dvuzToMkREUk5opm5ERKR3CnoRkZBT0IuIhJyCXkQk5BT0IiIhp6AXEQk5Bb2ISMgp6EVEQs7cPegaTmJmDcDO8/gSpUBjksoZ6PRanEyvx8n0enwgDK/FOHcv621HygX9+TKzanevCrqOVKDX4mR6PU6m1+MDYX8tNHUjIhJyCnoRkZALY9A/EXQBKUSvxcn0epxMr8cHQv1ahG6OXkREThbGM3oREYmjoBcRCbnQBL2ZzTOzzWZWY2YPBV1PkMxsjJm9amabzGyDmX096JqCZmaZZva2mf026FqCZmZDzOwFM/tT7GfkyqBrCpKZPRj7PfkvM3vOzPKCrinZQhH0ZpYJPA7cBEwHFpjZ9GCrClQH8E13nwbMAv4izV8PgK8Dm4IuIkX8K/A7d58KXEwavy5mNhr470CVu38EyATmB1tV8oUi6IGZQI2717p7G7AUuCXgmgLj7nvd/a3YcjPRX+TRwVYVHDOrAD4JLA66lqCZWTFwNfAkgLu3ufvhYKsKXBaQb2ZZwCCgPuB6ki4sQT8a2B23XkcaB1s8MxsPzADWBFtJoB4D/gqIBF1ICpgANAA/jk1lLTazgqCLCoq77wH+GdgF7AWOuPvvg60q+cIS9NbLtrS/btTMCoFfAN9w96ag6wmCmf0ZsN/d1wVdS4rIAi4FfuTuM4CjQNq+p2VmJUT/918JjAIKzOz2YKtKvrAEfR0wJm69ghD+9+tsmFk20ZD/mbv/Muh6AjQH+LSZ7SA6pXedmT0TbEmBqgPq3L3rf3gvEA3+dHU9sN3dG9y9HfglMDvgmpIuLEG/FphsZpVmlkP0zZRlAdcUGDMzonOwm9z9X4KuJ0ju/m13r3D38UR/Lv7g7qE7Y0uUu78P7DazC2KbPg5sDLCkoO0CZpnZoNjvzccJ4ZvTWUEXkAzu3mFm9wMvEX3XfIm7bwi4rCDNAe4A3jOz9bFtD7v78gBrktTxAPCz2ElRLfDlgOsJjLuvMbMXgLeIXq32NiG8HYJugSAiEnJhmboREZFTUNCLiIScgl5EJOQU9CIiIaegFxEJOQW9iEjIKehFRELu/wNK4GTt3JDy7wAAAABJRU5ErkJggg==\n",
+      "text/plain": [
+       "<Figure size 432x288 with 1 Axes>"
+      ]
+     },
+     "metadata": {
+      "needs_background": "light"
+     },
+     "output_type": "display_data"
+    }
+   ],
+   "source": [
+    "import matplotlib.pyplot as plt\n",
+    "%matplotlib inline\n",
+    "\n",
+    "print(tm.scores['ranking'][-1])\n",
+    "plt.plot(tm.scores['ranking'])"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 120,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "theta = artm_model.transform(batch_vectorizer=dataset.get_batch_vectorizer())"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": 121,
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "Далматинский_язык Сербские_беженцы_во_время_распада_Югославии Воротынское_княжество\n",
+      "{'История_Хорватии'}\n",
+      "Уорди,_Джеймс Конвей,_Джон_Хортон Великая_красота\n",
+      "{'Выпускники_Кембриджского_университета'}\n",
+      "Ардзинба,_Владислав_Григорьевич Шиман,_Пауль Беспощадная_толерантность\n",
+      "{'Политики_XX_века'}\n",
+      "Большеносая_акула Лисьи_акулы Тхить_Куанг_Дык\n",
+      "{'Рыбы_Атлантического_океана', 'Рыбы_Индийского_океана', 'Рыбы_Тихого_океана'}\n",
+      "Форт_Аламо_(фильм,_1960) Спи,_моя_любовь Государственные_деятели_Первой_мировой_войны\n",
+      "{'Фильмы_на_английском_языке'}\n",
+      "Лютостанский,_Ипполит_Иосифович Филипп_II_(митрополит_Московский) Тит_Квинкций_Фламинин\n",
+      "{'Извергнутые_из_сана'}\n",
+      "Махмуд-паша Марк_Порций_Катон_Салониан_Младший Сверх-Борджиа_в_Кремле\n",
+      "{'Персоналии_по_алфавиту'}\n",
+      "Чернов,_Григорий_Иванович Каспаров,_Гарри_Кимович Корабли_измерительного_комплекса_проекта_1914\n",
+      "{'Члены_КПСС'}\n",
+      "Махмуд-паша Александрян,_Рафаэль_Арамович Сикст_из_Оттерсдорфа\n",
+      "{'Персоналии_по_алфавиту'}\n",
+      "Операция_«Юго-Восточная_Хорватия» Штурм_Мервильской_батареи Chungking_Mansions\n",
+      "{'Сражения_Германии'}\n",
+      "Cult_County Sonic_Adventure_2 Клуб_Винкс_Волшебное_приключение\n",
+      "{'Компьютерные_игры,_разработанные_в_США', 'Игры_для_Windows'}\n"
+     ]
+    }
+   ],
+   "source": [
+    "for (a, b, c, explanation) in triplets[:100]:\n",
+    "    # L1 distance, just for example\n",
+    "    similar_dist = sum(abs(theta[a] - theta[b])) \n",
+    "    diffrnt_dist = sum(abs(theta[a] - theta[c]))\n",
+    "\n",
+    "    if (similar_dist > diffrnt_dist):\n",
+    "        print(a, b, c)\n",
+    "        print(explanation)\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.8.11"
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 2
+}

preprocessing/extract.sh

@@ -0,0 +1,8 @@
+
+python WikiExtractor.py \
+    -b 200M --json --no_templates --filter_disambig_pages \
+    --json --output extracted_json_good \
+    --filter_category goodfilter \
+    --extract_categories --category_surface Категория \
+    data/ruwiki-20200301-pages-articles-multistream.xml.bz2
+