{ "cells": [ { "cell_type": "code", "execution_count": 5, "metadata": {}, "outputs": [], "source": [ "from topicnet.cooking_machine import Dataset\n", "\n", "\n", "dataset = Dataset('../wikiextractor/good_ruwiki_vw.txt', batch_vectorizer_path=\"./ruwiki_batches\")\n" ] }, { "cell_type": "code", "execution_count": 32, "metadata": {}, "outputs": [], "source": [ "from topicnet.cooking_machine.dataset import get_modality_vw\n", "import pandas as pd\n", "\n", "data_categories = dataset._data.vw_text.apply(lambda s: get_modality_vw(s, \"@categories\"))" ] }, { "cell_type": "code", "execution_count": 33, "metadata": {}, "outputs": [], "source": [ "\n", "data = data_categories.apply(lambda x: [cat[:-2] for cat in x.split()])\n", "data_categories = pd.DataFrame(data=data.values, index=data.index.rename(\"title\"), columns=[\"categories\"])" ] }, { "cell_type": "code", "execution_count": 34, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
categories
title
Санкт-Петербург[Санкт-Петербург, Всемирное_наследие_в_России,...
Дворцовая_площадь[Карл_Росси, Эрмитаж, Художественные_музеи_и_г...
Греко-персидские_войны[Греко-персидские_войны, Войны_Древней_Греции,...
Тихий_океан[Тихий_океан]
Атлантический_океан[Атлантический_океан]
Нева[Нева, Реки,_впадающие_в_Финский_залив, Реки_Л...
Тонкослойная_хроматография[Хроматография]
Атомно-абсорбционная_спектрометрия[Аналитическая_химия, Спектроскопия]
Протеомика[Биоинформатика, Протеомика, Белки]
Вирус_иммунодефицита_человека[Retroviridae, ВИЧ-инфекция]
Эпос_о_Гильгамеше[Сказания_о_Гильгамеше, Эпические_произведения...
Русский_язык[Русский_язык, Языки_России, Языки_Белоруссии]
Индуизм[Индуизм, Религия_в_Азии, Индоиранские_религии]
Спирты[Спирты]
Кикимора[Персонажи_русской_мифологии, Мифические_сущес...
Леший[Духи_леса, Духи_места_у_славян, Нечистая_сила...
Воронеж[Воронеж, Города,_основанные_в_XVI_веке, Город...
Солнце[Термоядерные_реакции, Солнце, Жёлтые_карлики]
Венера[Венера, Небесные_тела,_посещённые_спускаемыми...
Юпитер[Юпитер, Небесные_тела,_посещённые_спускаемыми...
NTP[Протоколы_прикладного_уровня, Интернет-проток...
Чеченская_письменность[Кириллические_алфавиты, Алфавиты_на_основе_ла...
Нижний_Новгород[Нижний_Новгород, Населённые_пункты_городского...
Иванов,_Вячеслав_Иванович[Выпускники_1-й_Московской_гимназии, Писатели_...
Лейбниц,_Готфрид_Вильгельм[Члены_Прусской_академии_наук, Члены_Лондонско...
Гагарин,_Юрий_Алексеевич[Юрий_Гагарин, Персоналии_Гагарин, Погибшие_в_...
Финский_залив[Финский_залив, Заливы_Эстонии, Заливы_Ленингр...
Индонезия[Индонезия]
Ботсвана[Ботсвана]
Общая_теория_относительности[Теории_Альберта_Эйнштейна, Общая_теория_относ...
......
Административно-территориальное_деление_Башкурдистана[Административно-территориальное_деление_Башко...
Тёмный_американский_стриж[Cypseloides, Животные,_описанные_в_1848_году,...
Убийство_Марты_дель_Кастильо[Уголовные_дела_без_тела, Убийства_в_Испании, ...
Праздничное_шествие_с_песней._Коляда[Художники-примитивисты, Художники_наивного_ис...
Манойлов,_Владимир_Евстафьевич[Электротехники_СССР, Выпускники_Санкт-Петербу...
Невилл,_Джон,_3-й_барон_Невилл_из_Рэби[Невиллы, Бароны_Невилл_из_Рэби, Кавалеры_орде...
Чаннер,_Джордж_Николас[Генералы_Британской_Индийской_армии, Участник...
Сиффлит,_Леонард[Солдаты_Армии_Австралии, Военнопленные_Австра...
Ньютон,_Уильям[Гольфисты_Австралии, Крикетчики_Австралии, Иг...
Доганджи_Мехмед-паша[История_Османской_империи, Фавориты_монархов]
Инцидент_с_бейлербеем[История_Османской_империи, Восстания_в_Османс...
Касым-бей_Караманид[Караманиды]
Miru_Tights[Аниме_и_манга_о_школе]
Harrisonavis_croizeti[Вымершие_фламингообразные, Монотипические_род...
Смерть_вождя[Работы_Сергея_Меркурова, Лениниана, Иконограф...
Арест_принца_Дипонегоро_(картина_Салеха)[Картины_из_собраний_музея_президентского_двор...
Византийский_город[Население_Византии, Градостроительство_по_ист...
Шехзаде_Мустафа_(сын_Мехмеда_II)[Династия_Османов, Военные_Османской_империи]
Резня_в_Благае[Геноцид_сербов_(1941—1945)]
Пятнистолобый_американский_стриж[Cypseloides, Животные,_описанные_в_1945_году]
Бассет,_Ричард[Бассеты, Главные_шерифы_Лестершира]
Бикрофт,_Джон[Исследователи_Африки, Путешественники_Великоб...
Эдмунд_Плантагенет,_2-й_граф_Корнуолл[Плантагенеты, Графы_Корнуолл]
Королева_сердец[Фильмы-драмы_Дании, Фильмы-драмы_Швеции, Филь...
Карабаев,_Мухамеджан_Карабаевич[Статские_советники]
Бассет,_Филипп[Бассеты]
Битва_при_Линкольне_(1217)[Сражения_Первой_баронской_войны, 1217_год, Ли...
Лю_Жэньхан[Философы_эпохи_Цин, Социалисты_Китая, Социали...
Реформа_эталонных_процентных_ставок[Процентные_ставки, Экономические_показатели, ...
Ментеше-бей[Турецкие_династии]
\n", "

8603 rows × 1 columns

\n", "
" ], "text/plain": [ " categories\n", "title \n", "Санкт-Петербург [Санкт-Петербург, Всемирное_наследие_в_России,...\n", "Дворцовая_площадь [Карл_Росси, Эрмитаж, Художественные_музеи_и_г...\n", "Греко-персидские_войны [Греко-персидские_войны, Войны_Древней_Греции,...\n", "Тихий_океан [Тихий_океан]\n", "Атлантический_океан [Атлантический_океан]\n", "Нева [Нева, Реки,_впадающие_в_Финский_залив, Реки_Л...\n", "Тонкослойная_хроматография [Хроматография]\n", "Атомно-абсорбционная_спектрометрия [Аналитическая_химия, Спектроскопия]\n", "Протеомика [Биоинформатика, Протеомика, Белки]\n", "Вирус_иммунодефицита_человека [Retroviridae, ВИЧ-инфекция]\n", "Эпос_о_Гильгамеше [Сказания_о_Гильгамеше, Эпические_произведения...\n", "Русский_язык [Русский_язык, Языки_России, Языки_Белоруссии]\n", "Индуизм [Индуизм, Религия_в_Азии, Индоиранские_религии]\n", "Спирты [Спирты]\n", "Кикимора [Персонажи_русской_мифологии, Мифические_сущес...\n", "Леший [Духи_леса, Духи_места_у_славян, Нечистая_сила...\n", "Воронеж [Воронеж, Города,_основанные_в_XVI_веке, Город...\n", "Солнце [Термоядерные_реакции, Солнце, Жёлтые_карлики]\n", "Венера [Венера, Небесные_тела,_посещённые_спускаемыми...\n", "Юпитер [Юпитер, Небесные_тела,_посещённые_спускаемыми...\n", "NTP [Протоколы_прикладного_уровня, Интернет-проток...\n", "Чеченская_письменность [Кириллические_алфавиты, Алфавиты_на_основе_ла...\n", "Нижний_Новгород [Нижний_Новгород, Населённые_пункты_городского...\n", "Иванов,_Вячеслав_Иванович [Выпускники_1-й_Московской_гимназии, Писатели_...\n", "Лейбниц,_Готфрид_Вильгельм [Члены_Прусской_академии_наук, Члены_Лондонско...\n", "Гагарин,_Юрий_Алексеевич [Юрий_Гагарин, Персоналии_Гагарин, Погибшие_в_...\n", "Финский_залив [Финский_залив, Заливы_Эстонии, Заливы_Ленингр...\n", "Индонезия [Индонезия]\n", "Ботсвана [Ботсвана]\n", "Общая_теория_относительности [Теории_Альберта_Эйнштейна, Общая_теория_относ...\n", "... ...\n", "Административно-территориальное_деление_Башкурд... [Административно-территориальное_деление_Башко...\n", "Тёмный_американский_стриж [Cypseloides, Животные,_описанные_в_1848_году,...\n", "Убийство_Марты_дель_Кастильо [Уголовные_дела_без_тела, Убийства_в_Испании, ...\n", "Праздничное_шествие_с_песней._Коляда [Художники-примитивисты, Художники_наивного_ис...\n", "Манойлов,_Владимир_Евстафьевич [Электротехники_СССР, Выпускники_Санкт-Петербу...\n", "Невилл,_Джон,_3-й_барон_Невилл_из_Рэби [Невиллы, Бароны_Невилл_из_Рэби, Кавалеры_орде...\n", "Чаннер,_Джордж_Николас [Генералы_Британской_Индийской_армии, Участник...\n", "Сиффлит,_Леонард [Солдаты_Армии_Австралии, Военнопленные_Австра...\n", "Ньютон,_Уильям [Гольфисты_Австралии, Крикетчики_Австралии, Иг...\n", "Доганджи_Мехмед-паша [История_Османской_империи, Фавориты_монархов]\n", "Инцидент_с_бейлербеем [История_Османской_империи, Восстания_в_Османс...\n", "Касым-бей_Караманид [Караманиды]\n", "Miru_Tights [Аниме_и_манга_о_школе]\n", "Harrisonavis_croizeti [Вымершие_фламингообразные, Монотипические_род...\n", "Смерть_вождя [Работы_Сергея_Меркурова, Лениниана, Иконограф...\n", "Арест_принца_Дипонегоро_(картина_Салеха) [Картины_из_собраний_музея_президентского_двор...\n", "Византийский_город [Население_Византии, Градостроительство_по_ист...\n", "Шехзаде_Мустафа_(сын_Мехмеда_II) [Династия_Османов, Военные_Османской_империи]\n", "Резня_в_Благае [Геноцид_сербов_(1941—1945)]\n", "Пятнистолобый_американский_стриж [Cypseloides, Животные,_описанные_в_1945_году]\n", "Бассет,_Ричард [Бассеты, Главные_шерифы_Лестершира]\n", "Бикрофт,_Джон [Исследователи_Африки, Путешественники_Великоб...\n", "Эдмунд_Плантагенет,_2-й_граф_Корнуолл [Плантагенеты, Графы_Корнуолл]\n", "Королева_сердец [Фильмы-драмы_Дании, Фильмы-драмы_Швеции, Филь...\n", "Карабаев,_Мухамеджан_Карабаевич [Статские_советники]\n", "Бассет,_Филипп [Бассеты]\n", "Битва_при_Линкольне_(1217) [Сражения_Первой_баронской_войны, 1217_год, Ли...\n", "Лю_Жэньхан [Философы_эпохи_Цин, Социалисты_Китая, Социали...\n", "Реформа_эталонных_процентных_ставок [Процентные_ставки, Экономические_показатели, ...\n", "Ментеше-бей [Турецкие_династии]\n", "\n", "[8603 rows x 1 columns]" ] }, "execution_count": 34, "metadata": {}, "output_type": "execute_result" } ], "source": [ "data_categories" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] }, { "cell_type": "code", "execution_count": 85, "metadata": {}, "outputs": [], "source": [ "\n", "import numpy as np\n", "\n", "THRESHOLD = 0\n", "\n", "def randomly_select(data_orig, point_a, should_intersect):\n", " attempts_left = 100\n", " while attempts_left > 0:\n", " rnd_idx_b = np.random.choice(data_orig.shape[0])\n", " point_b = data_orig.iloc[rnd_idx_b]\n", " intersection = set(point_b.categories) & set(point_a.categories)\n", " is_big = (len(intersection) > THRESHOLD)\n", " if should_intersect == is_big:\n", " # if is_big:\n", " # print(point_a.title, point_b.title, intersection)\n", " return point_b.title, rnd_idx_b, intersection\n", " attempts_left -= 1\n", " return None, None, None\n", "\n", "def generate_triplet(data_orig):\n", "\n", " rnd_idx_a = np.random.choice(data_orig.shape[0])\n", " point_a = data_orig.iloc[rnd_idx_a]\n", " point_b, rnd_idx_b, intersection = randomly_select(data_orig, point_a, should_intersect=True)\n", " point_c, rnd_idx_c, empty_intersection = randomly_select(data_orig, point_a, should_intersect=False)\n", " # return [point_a, point_b, point_c]\n", " return [point_a.title, point_b, point_c, intersection]\n", " # return [rnd_idx_a, rnd_idx_b, rnd_idx_c]\n", "\n", " \n", " " ] }, { "cell_type": "code", "execution_count": 91, "metadata": {}, "outputs": [ { "name": "stderr", "output_type": "stream", "text": [ "100%|██████████| 10000/10000 [01:57<00:00, 85.28it/s]\n" ] }, { "data": { "text/plain": [ "2094" ] }, "execution_count": 91, "metadata": {}, "output_type": "execute_result" } ], "source": [ "from tqdm import tqdm\n", "\n", "triplets = []\n", "\n", "for i in tqdm(range(10000)):\n", " a, b, c, explanation = generate_triplet(data_categories.reset_index())\n", " if b is not None and c is not None:\n", " triplets.append( (a, b, c, explanation) )\n", "\n", "len(triplets)" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] }, { "cell_type": "code", "execution_count": 93, "metadata": {}, "outputs": [], "source": [ "import pickle\n", "\n", "with open(\"triplets_ruwiki_good.p\", \"wb\") as f:\n", " pickle.dump(triplets, f)\n" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] }, { "cell_type": "code", "execution_count": 96, "metadata": {}, "outputs": [ { "data": { "text/plain": [ "{'@categories', '@lemmatized', '@ngramms'}" ] }, "execution_count": 96, "metadata": {}, "output_type": "execute_result" } ], "source": [ "dataset.get_possible_modalities()" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "## Scoring model by ranking quality" ] }, { "cell_type": "code", "execution_count": 111, "metadata": {}, "outputs": [], "source": [ "from topicnet.cooking_machine.models import BaseScore as BaseTopicNetScore, TopicModel\n", "\n", "\n", "class ValidationRankingQuality(BaseTopicNetScore):\n", " def __init__(self, validation_dataset, triplets):\n", " super().__init__()\n", "\n", " self.validation_dataset = validation_dataset\n", " self.triplets = triplets\n", "\n", " def call(self, model: TopicModel):\n", " theta = model.get_theta(dataset=self.validation_dataset)\n", " \n", " correct_rankings = 0\n", "\n", " for (a, b, c, _) in self.triplets:\n", " # L1 distance, just for example\n", " similar_dist = sum(abs(theta[a] - theta[b]))\n", " diffrnt_dist = sum(abs(theta[a] - theta[c]))\n", "\n", " correct_rankings += (similar_dist < diffrnt_dist)\n", "\n", " return correct_rankings / len(self.triplets)\n", "\n", " " ] }, { "cell_type": "code", "execution_count": 112, "metadata": {}, "outputs": [], "source": [ "import artm\n", "\n", "artm_model = artm.ARTM(\n", " num_topics=20, \n", " dictionary=dataset.get_dictionary(),\n", " class_ids={'@lemmatized': 1, '@ngramms': 50}, # absolute values, just for example\n", " theta_columns_naming=\"title\"\n", ")\n", "\n" ] }, { "cell_type": "code", "execution_count": 113, "metadata": {}, "outputs": [], "source": [ "tm = TopicModel(artm_model, custom_scores={\"ranking\": ValidationRankingQuality(dataset, triplets)})" ] }, { "cell_type": "code", "execution_count": 116, "metadata": { "scrolled": true }, "outputs": [], "source": [ "tm._fit(dataset.get_batch_vectorizer(), 10)" ] }, { "cell_type": "code", "execution_count": 119, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "0.8911174785100286\n" ] }, { "data": { "text/plain": [ "[]" ] }, "execution_count": 119, "metadata": {}, "output_type": "execute_result" }, { "data": { "image/png": "iVBORw0KGgoAAAANSUhEUgAAAXoAAAD6CAYAAACvZ4z8AAAABHNCSVQICAgIfAhkiAAAAAlwSFlzAAALEgAACxIB0t1+/AAAADh0RVh0U29mdHdhcmUAbWF0cGxvdGxpYiB2ZXJzaW9uMy4xLjEsIGh0dHA6Ly9tYXRwbG90bGliLm9yZy8QZhcZAAAds0lEQVR4nO3de3SV9Z3v8fc395ALBJJwC5dwE7BW0YgIotaqRTut7fRywEu1irZdo6d12jXLOj0zXbbOzJmZM3XWOrZnBKmtVqnH3pjK1OqpThEBCYo6QIEQbiEICbckQMhlf88feyduYoAN7OTZefbntdZePJffk3z3Jvnw8NvP99nm7oiISHhlBF2AiIj0LQW9iEjIKehFREJOQS8iEnIKehGRkFPQi4iEXEJBb2bzzGyzmdWY2UO97B9nZv/PzN41s9fMrCJu351mtjX2uDOZxYuIyJnZma6jN7NMYAtwA1AHrAUWuPvGuDH/F/itu//EzK4Dvuzud5jZUKAaqAIcWAdc5u6HTvX9SktLffz48ef3rERE0sy6desa3b2st31ZCRw/E6hx91oAM1sK3AJsjBszHXgwtvwq8OvY8ieAl939YOzYl4F5wHOn+mbjx4+nuro6gbJERKSLme081b5Epm5GA7vj1uti2+K9A3wutvxZoMjMhiV4LGZ2n5lVm1l1Q0NDAiWJiEiiEgl662Vbz/mebwHXmNnbwDXAHqAjwWNx9yfcvcrdq8rKev2fh4iInKNEpm7qgDFx6xVAffwAd68H/hzAzAqBz7n7ETOrA67tcexr51GviIicpUTO6NcCk82s0sxygPnAsvgBZlZqZl1f69vAktjyS8CNZlZiZiXAjbFtIiLST84Y9O7eAdxPNKA3Ac+7+wYze8TMPh0bdi2w2cy2AMOBR2PHHgS+R/Qfi7XAI11vzIqISP844+WV/a2qqsp11Y2IyNkxs3XuXtXbPnXGioiEXCJvxoqIhFZ7Z4TDx9rpjDid7kQiTkfE6Yw4EY/+2bXcEYnu/2AsdEQisXF86Jj4r9nZY3vXMRF3Ojqj+0cU53HrFWOT/hwV9CISam0dEfYeOU7doePUHToW+/M4e2Lr7ze1EkmRGewZY4co6EVEejrR0Un94da4ED8WC/HoY19zK/FvRWYYjBycz+iSfGZNGEZFST5lRblkZmSQmQEZZmRlGhlmZGYYmWZkZBhZGdE/M2Pbu/dnxI+DzK6xpx33wXLX9gwDs95aj86fgl5EUlpreyd7Dh/vJcSjwb6/+cRJ4zMzjJGD86goyWfOpFIqSvJjj0FUlOQzYnAe2Znp9fakgl5EAnW8rZM9h4+xu3s65eQplsaWk4M8K8MYNSQa3tdMKesO8IqS6Fn6iOI8stIsyM9EQS8i5621vZOm1naajnfQ1NpOc2sHTcfbT9oWXf9ge3NrB4eOtnHgaNtJXys70xg9JHoGfv208ujy0Oj66CH5DC/OIzOjb6Y4wkpBL5Lm3J3W9kgsfNs5copgPl2It3VETvs9sjONwfnZFOVlU5yXRXF+NqMG5zN4UHYs1D+YXikrzCVDQZ5UCnqRkOvojLD70HG27mumpqGFmv0tbG88yuFj7d2B3d55+stOcrMyoiGdn0VxXjbF+dlUlORTnJ8dW49uL4qFeHFeNoPjxuZmZfTZG41yZgp6kZBobe9ke+NRava3nPTY3niUts4PzrhHFOcxsbyAMSWD4gL65BAvjgvsorws8rIzA3xmcr4U9CIDTMuJju4Q37q/mW2x5V0Hj3VfD55hMGboICaXF3Lt1DImlRUyeXgRE8sKKMrLDvYJSL9T0IukqAMtJ6KB3tDC1n0tbItNu+w90to9JjvTmFBayIWjBvPpS0YzubyQSeWFVJYW6CxcuinoRQLk7uw90ho7O48G+bbYmfqhY+3d4wblZDKpvJArJwxjYnlhd6CPHTpIlxLKGSnoRfqBu1N/pJVN9U1s2d/cHeg1+1s42tbZPW7IoGwmlxcy7yMjmFRexKRYoI8sztOVKHLOFPQiSdbWEWHr/mY27W1mY30TG/ceYdPeZo4c/+AMfURxHpPKC/lC1ZjuMJ9UXsiwghxdnSJJp6AXOQ+Hj7WxcW9TLNCb2LS3mZr9zd2XK+ZlZzB1RDGf/OhIpo0sZvrIIiYPL6JYb4hKP1LQiyQgEnF2HTzGpr1N3cG+aW8T9XFvjJYX5TJ9VDHXXlDG9JHFTB9VzPhhBerilMAp6EV6aG3vZPP7zScF+qa9Td1z6ZkZxsSyAi6vHNod6NNGFlNamBtw5SK9U9BLWmtoPnFSoG/c20RtQ0v39eiFuVlMG1nE5y+r6A70KcOLdOmiDCgKekkLnRFne2MLG+qj8+hd4R5/Z8TRQ/KZNrKYmy8ayfSRRUwfOZiKknxd7SIDnoJeQsnd2bKvhZU1jbyxrZE1tQdpPtEBRJuMJpcXce0FZbE3SKOPwYP0BqmEk4JeQmP3wWOsrGlk5bYDrNrWSGNL9Pa344YN4s8uHsVl40q4cFQxE8sKyclSk5GkDwW9DFj7m1tZte0Ab9QcYOW2RuoOHQegrCiXqyaVMntSKbMnDqOiZFDAlYoES0EvA0ZTaztrag92T8ds2dcCQHFeFrMmDOPeuROYM2kYE8sK1XQkEkdBLymrtb2T6h2HeGNbdDrmvbrDRDzahHT5+KF8dkYFcyYN48JRg3WtushpKOglZXR0Rnin7girtjWysuYA63Ydoq0jQlaGcfGYIdz/sUnMnlTKjLFDyM3S5Y0iiVLQS2AiEWfzvmbe2HaAN2oaWbP9IC2xK2OmjyzmS7PGMWdSKZdXDqUwVz+qIudKvz3Sb9yjtxFYWXOAN7Y1smrbge4Phq4sLeDTl4xizsRSrpw4jKEFOQFXKxIeCnrpUy0nOnhl477oPHvNAfYcjl4ZU16Uy9VTypg9cRizJ5Uyekh+wJWKhJeCXvrMwaNtLHhiNZv3NTM4P5srJwzjK9dMYPbEUiaWFejKGJF+oqCXPnH4WBu3L17DjgNHWfylKj42tVxXxogEREEvSdfU2s6dS96kZn8Li+6s4popZUGXJJLW1AcuSdVyooMv/3gtG+qb+OFtlyrkRVKAzuglaY63dXLPU2tZv/sw/3vBDK6fPjzokkQEndFLkrS2d3Lf09Ws3XGQf/nixdx00cigSxKRmISC3szmmdlmM6sxs4d62T/WzF41s7fN7F0zuzm2fbyZHTez9bHH/0n2E5DgtXVE+Noz61ixtZF//PzF3HLJ6KBLEpE4Z5y6MbNM4HHgBqAOWGtmy9x9Y9yw7wDPu/uPzGw6sBwYH9u3zd0vSW7ZkiraOyPc/+xbvLq5gb/77EV8/rKKoEsSkR4SOaOfCdS4e627twFLgVt6jHGgOLY8GKhPXomSqjo6I3zj5+v5/cZ9fPdT07n1irFBlyQivUgk6EcDu+PW62Lb4n0XuN3M6oiezT8Qt68yNqXzn2Y2t7dvYGb3mVm1mVU3NDQkXr0EpjPi/NUL7/Liu3t5+Oap3DWnMuiSROQUEgn63rpcvMf6AuApd68AbgaeNrMMYC8w1t1nAH8JPGtmxT2Oxd2fcPcqd68qK9PleKkuEnH++lfv8cu39/CtG6dw39UTgy5JRE4jkaCvA8bErVfw4amZe4DnAdx9FZAHlLr7CXc/ENu+DtgGTDnfoiU47s7fLtvA0rW7eeC6Sdx/3eSgSxKRM0gk6NcCk82s0sxygPnAsh5jdgEfBzCzaUSDvsHMymJv5mJmE4DJQG2yipf+5e58/8VNPL16J1+5egJ/eYP+zRYZCM541Y27d5jZ/cBLQCawxN03mNkjQLW7LwO+CSwysweJTuvc5e5uZlcDj5hZB9AJfNXdD/bZs5E+4+7800ubefL17dw1ezwP3TRVNyUTGSDMved0e7Cqqqq8uro66DKkh8de2cJjr2zl1ivG8uhnPqKQF0kxZrbO3at626fOWDmjH75Ww2OvbOXzl1Xw/VsU8iIDjYJeTmvxilr+8XebueWSUfzPz32UDN1qWGTAUdDLKT29agfff3ETN31kBP/rCxfrfvIiA5SCXnr187W7+B+/2cD108r51/kzyMrUj4rIQKXfXvmQX71dx0O/fI9rppTx+G2XkpOlHxORgUy/wXKS375bzzeff4crJwzj3+64jNyszKBLEpHzpKCXbi9teJ+vL13PZeNKWHxnFXnZCnmRMFDQCwCv/mk/9z/7FheNHsySuy5nUI4+fEwkLBT0wutbG/nKM+uYOqKYn9w9k6K87KBLEpEkUtCnudW1B1j407VMKC3gp3fPZHC+Ql4kbBT0aWzdzoPc/dRaxpQM4pmFV1BSkBN0SSLSBxT0aeqd3Ye5a8lahhfn8bOFV1BamBt0SSLSRxT0aWhD/RHueHINQwqyefbeKygvzgu6JBHpQwr6NLP5/WZuX7yGwtwsnl04i5GD84MuSUT6mII+jWxraOG2xWvIycrg2XtnMWbooKBLEpF+oKBPEzsPHOXWRasB52cLZzG+tCDokkSknyjo00DdoWPcumgNbR0RfrZwFpPKC4MuSUT6kYI+5PYeOc6ti9bQ3NrO0/dcwQUjioIuSUT6mfrcQ2x/Uyu3LVrDwaNtPLPwCj4yenDQJYlIAHRGH1IHj7Zx2+I1vN/Uyk/uvpxLxgwJuiQRCYjO6EPqe7/dyM6Dx/jJl2dy2bihQZcjIgHSGX0IvVd3hF+9vYeFV1Vy5cRhQZcjIgFT0IeMu/Po8o0MK8jha9dODLocEUkBCvqQeWXTflbXHuQb10/W7YZFBFDQh0p7Z4S//49NTCgrYP7MsUGXIyIpQkEfIkvf3EVtw1Eevmka2Zn6qxWRKKVBSDS1tvODV7Yya8JQPj6tPOhyRCSFKOhD4kevbePg0Tb++ubpmFnQ5YhIClHQh8Cew8d58vXt/PmM0VxUoe5XETmZgj4E/vmlzRjwzU9cEHQpIpKCFPQDXFdz1D1XVTJ6iD5EREQ+TEE/gLk7339RzVEicnoK+gHslU37WbP9IN+4YYqao0TklBT0A1RXc9TEsgLmXz4m6HJEJIUp6Aeoruaob6s5SkTOIKGEMLN5ZrbZzGrM7KFe9o81s1fN7G0ze9fMbo7b9+3YcZvN7BPJLD5dqTlKRM7GGe9Hb2aZwOPADUAdsNbMlrn7xrhh3wGed/cfmdl0YDkwPrY8H7gQGAW8YmZT3L0z2U8knXQ1R33nk2qOEpEzS+SMfiZQ4+617t4GLAVu6THGgeLY8mCgPrZ8C7DU3U+4+3agJvb15BzFN0fpowFFJBGJBP1oYHfcel1sW7zvArebWR3Rs/kHzuJYzOw+M6s2s+qGhoYES09Pao4SkbOVSND3NjfgPdYXAE+5ewVwM/C0mWUkeCzu/oS7V7l7VVlZWQIlpad36w6rOUpEzloinxlbB8Rfv1fBB1MzXe4B5gG4+yozywNKEzxWEuDuPPriJjVHichZS+SMfi0w2cwqzSyH6Jury3qM2QV8HMDMpgF5QENs3HwzyzWzSmAy8Gayik8nao4SkXN1xjN6d+8ws/uBl4BMYIm7bzCzR4Bqd18GfBNYZGYPEp2aucvdHdhgZs8DG4EO4C90xc3Za++M8PfL1RwlIucmkakb3H050TdZ47f9TdzyRmDOKY59FHj0PGpMe8+9uYvaxqMs/lKVmqNE5KwpNVJcU2s7j72ylSsnDFNzlIicEwV9iuv+5KhPTlNzlIicEwV9Cqs7dEzNUSJy3hT0KayrOepbao4SkfOgoE9R79Yd5tfr61k4t5JRao4SkfOgoE9B8c1RX71GzVEicn4U9Cno5Y371BwlIkmjoE8x7Z0R/uE//sTEsgIWqDlKRJJAQZ9iupqjHr55GllqjhKRJFCSpJD45qjrpqo5SkSSQ0GfQn74qpqjRCT5FPQpou7QMZasVHOUiCSfgj5FqDlKRPqKgj4FqDlKRPqSgj5g7s731RwlIn1IQR+wlzfu4001R4lIH1LQB0jNUSLSHxT0AVJzlIj0B6VLQNQcJSL9RUEfkB++uo1Dx9QcJSJ9T0EfgK7mqM+qOUpE+oGCPgDdzVE3qjlKRPqegr6fvbNbzVEi0r8U9P3I3Xl0+SZKC3P42rWTgi5HRNKEgr4fdTdHXT+FwtysoMsRkTShoO8n8c1R89UcJSL9SEHfT55do+YoEQmGEqcfRJujtjB7opqjRKT/Kej7wQ9f3cbh4+08fLOao0Sk/yno+5iao0QkaAr6PvZPao4SkYAp6PvQO7sP85v19dw7d4Kao0QkMAr6PhLfHPXVa/XJUSISHAV9H/m9mqNEJEUo6PtAV3PUpPJCNUeJSOASCnozm2dmm82sxswe6mX/D8xsfeyxxcwOx+3rjNu3LJnFp6pn1+xie+NRHr55qpqjRCRwZ5xTMLNM4HHgBqAOWGtmy9x9Y9cYd38wbvwDwIy4L3Hc3S9JXsmpLb456mMXqDlKRIKXyOnmTKDG3WvdvQ1YCtxymvELgOeSUdxA9MzqnRw61s63b1JzlIikhkSCfjSwO269LrbtQ8xsHFAJ/CFuc56ZVZvZajP7zCmOuy82prqhoSHB0lPPiY5Onlq5g7mTS7moQs1RIpIaEgn63k5L/RRj5wMvuHtn3Lax7l4F3Ao8ZmYfutbQ3Z9w9yp3ryorK0ugpNS0bH09+5tPcO/cCUGXIiLSLZGgrwPiLx2pAOpPMXY+PaZt3L0+9mct8Bonz9+HhruzaEUtU0cUMXdyadDliIh0SyTo1wKTzazSzHKIhvmHrp4xswuAEmBV3LYSM8uNLZcCc4CNPY8Ng//c0sCWfS3cO3eC5uZFJKWc8aobd+8ws/uBl4BMYIm7bzCzR4Bqd+8K/QXAUnePn9aZBvybmUWI/qPyD/FX64TJ4hXbGV6cy6cuHhV0KSIiJ0moZdPdlwPLe2z7mx7r3+3luDeAi86jvgFhQ/0RXq9p5KGbppKTpevmRSS1KJWSYPGK7RTkZLJg5tigSxER+RAF/XmqP3ycf3+nnvkzxzI4PzvockREPkRBf56eemMHDnx5zvigSxER6ZWC/jw0tbbz7Jpd3HzRSCpKBgVdjohIrxT05+Hnb+6m5UQH986tDLoUEZFTUtCfo/bOCEtWbmfWhKF8tGJI0OWIiJySgv4cvfjuXvYeaeW+q3W7AxFJbQr6c9B1u4NJ5YVcO0W3IhaR1KagPwerth1gQ30T986tJCNDtzsQkdSmoD8HT6yopbQwl1su6fVuzSIiKUVBf5Y2v9/Ma5sbuGv2OPKyM4MuR0TkjBT0Z2nxilrysjO47YpxQZciIpIQBf1Z2N/Uyq/X7+GLVWMoKcgJuhwRkYQo6M/CU2/soCPi3HOVGqREZOBQ0Cfo6IkOnlm9k3kXjmDcsIKgyxERSZiCPkHPV++mqbWDe9UgJSIDjII+AR2dEZ58fTtV40q4dGxJ0OWIiJwVBX0CXtqwj7pDx3U2LyIDkoL+DNydJ/64jcrSAq6fNjzockREzpqC/gzW7jjEO3VHuOeqSjJ1uwMRGYAU9GfwxB9rKRmUzecurQi6FBGRc6KgP41tDS28smkfd1w5nvwc3e5ARAYmBf1pLF6xnZysDL50pW53ICIDl4L+FBpbTvCLt+r43KUVlBbmBl2OiMg5U9Cfwk9X7aStI8JCfR6siAxwCvpeHG/r5OlVO7h+2nAmlhUGXY6IyHlR0PfiF2/VcehYuz4PVkRCQUHfQ2fEefL17Vw8ZgiXj9ftDkRk4FPQ9/DKpn1sbzzKfXMnYKYGKREZ+BT0PSz6Yy0VJfl84kLd7kBEwkFBH2fdzkNU7zzEPVdVkpWpl0ZEwkFpFmfxilqK87L4YtWYoEsREUkaBX3MzgNH+d2G97l91jgKcrOCLkdEJGkU9DFPvr6drAzjrtnjgy5FRCSpFPTAoaNtPF+9m89cMpry4rygyxERSaqEgt7M5pnZZjOrMbOHetn/AzNbH3tsMbPDcfvuNLOtscedySw+WZ5ZvZPW9og+QUpEQumMk9Fmlgk8DtwA1AFrzWyZu2/sGuPuD8aNfwCYEVseCvwtUAU4sC527KGkPovz0NreyU9W7eTaC8qYMrwo6HJERJIukTP6mUCNu9e6exuwFLjlNOMXAM/Flj8BvOzuB2Ph/jIw73wKTrbfrN9DY8sJ7p2rs3kRCadEgn40sDtuvS627UPMbBxQCfzhbI41s/vMrNrMqhsaGhKpOykiEWfRiu1MH1nM7InD+u37ioj0p0SCvrf7APgpxs4HXnD3zrM51t2fcPcqd68qKytLoKTkeG3Lfmr2t3Df1brdgYiEVyJBXwfEdxBVAPWnGDufD6ZtzvbYfvfEH2sZOTiPT350ZNCliIj0mUSCfi0w2cwqzSyHaJgv6znIzC4ASoBVcZtfAm40sxIzKwFujG0L3Lt1h1lde5C751SSrdsdiEiInfGqG3fvMLP7iQZ0JrDE3TeY2SNAtbt3hf4CYKm7e9yxB83se0T/sQB4xN0PJvcpnJtFK7ZTlJvF/Jm63YGIhFtCvf7uvhxY3mPb3/RY/+4pjl0CLDnH+vrE7oPHWP7eXu65qpKivOygyxER6VNpOWfx45U7MNDtDkQkLaRd0B853s7P1+7iUxePYtSQ/KDLERHpc2kX9M+9uYujbZ0snFsZdCkiIv0irYK+rSPCj1duZ86kYVw4anDQ5YiI9Iu0Cvp/f6eefU263YGIpJe0CXp3Z9GKWi4YXsQ1U/qv+1ZEJGhpE/Qrtjbyp/ebWTi3Urc7EJG0kjZBv2hFLeVFuXz6klFBlyIi0q/SIug31jexYmsjd80ZT25WZtDliIj0q7QI+sUrahmUk8ltM8cFXYqISL8LfdDvPXKcZe/U898uH8PgQbrdgYikn9AH/VNv7CDizt1z1CAlIukp1EHf3NrOs6t3cdNFIxkzdFDQ5YiIBCLUQf/ztbtpPtHBfWqQEpE0Ftqgb++M8OOVO5hZOZSLxwwJuhwRkcCENuiXv7eXPYeP62xeRNJeKIO+63YHE8oKuG5qedDliIgEKpRBv6r2AP+1p4l7504gI0O3OxCR9BbKoF/0x1pKC3P47IzRQZciIhK40AX91n3NvLq5gTtmjScvW7c7EBEJXdAvXrGd3KwM7rhStzsQEYGQBf3+5lZ+9fYevlBVwdCCnKDLERFJCaEK+p++sZP2SIR7rtIllSIiXUIT9MfaOnh69U5unD6cytKCoMsREUkZWUEXkCzNrR1cNamUu68aH3QpIiIpJTRBP7w4j8dvuzToMkREUk5opm5ERKR3CnoRkZBT0IuIhJyCXkQk5BT0IiIhp6AXEQk5Bb2ISMgp6EVEQs7cPegaTmJmDcDO8/gSpUBjksoZ6PRanEyvx8n0enwgDK/FOHcv621HygX9+TKzanevCrqOVKDX4mR6PU6m1+MDYX8tNHUjIhJyCnoRkZALY9A/EXQBKUSvxcn0epxMr8cHQv1ahG6OXkREThbGM3oREYmjoBcRCbnQBL2ZzTOzzWZWY2YPBV1PkMxsjJm9amabzGyDmX096JqCZmaZZva2mf026FqCZmZDzOwFM/tT7GfkyqBrCpKZPRj7PfkvM3vOzPKCrinZQhH0ZpYJPA7cBEwHFpjZ9GCrClQH8E13nwbMAv4izV8PgK8Dm4IuIkX8K/A7d58KXEwavy5mNhr470CVu38EyATmB1tV8oUi6IGZQI2717p7G7AUuCXgmgLj7nvd/a3YcjPRX+TRwVYVHDOrAD4JLA66lqCZWTFwNfAkgLu3ufvhYKsKXBaQb2ZZwCCgPuB6ki4sQT8a2B23XkcaB1s8MxsPzADWBFtJoB4D/gqIBF1ICpgANAA/jk1lLTazgqCLCoq77wH+GdgF7AWOuPvvg60q+cIS9NbLtrS/btTMCoFfAN9w96ag6wmCmf0ZsN/d1wVdS4rIAi4FfuTuM4CjQNq+p2VmJUT/918JjAIKzOz2YKtKvrAEfR0wJm69ghD+9+tsmFk20ZD/mbv/Muh6AjQH+LSZ7SA6pXedmT0TbEmBqgPq3L3rf3gvEA3+dHU9sN3dG9y9HfglMDvgmpIuLEG/FphsZpVmlkP0zZRlAdcUGDMzonOwm9z9X4KuJ0ju/m13r3D38UR/Lv7g7qE7Y0uUu78P7DazC2KbPg5sDLCkoO0CZpnZoNjvzccJ4ZvTWUEXkAzu3mFm9wMvEX3XfIm7bwi4rCDNAe4A3jOz9bFtD7v78gBrktTxAPCz2ElRLfDlgOsJjLuvMbMXgLeIXq32NiG8HYJugSAiEnJhmboREZFTUNCLiIScgl5EJOQU9CIiIaegFxEJOQW9iEjIKehFRELu/wNK4GTt3JDy7wAAAABJRU5ErkJggg==\n", "text/plain": [ "
" ] }, "metadata": { "needs_background": "light" }, "output_type": "display_data" } ], "source": [ "import matplotlib.pyplot as plt\n", "%matplotlib inline\n", "\n", "print(tm.scores['ranking'][-1])\n", "plt.plot(tm.scores['ranking'])" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] }, { "cell_type": "code", "execution_count": 120, "metadata": {}, "outputs": [], "source": [ "theta = artm_model.transform(batch_vectorizer=dataset.get_batch_vectorizer())" ] }, { "cell_type": "code", "execution_count": 121, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Далматинский_язык Сербские_беженцы_во_время_распада_Югославии Воротынское_княжество\n", "{'История_Хорватии'}\n", "Уорди,_Джеймс Конвей,_Джон_Хортон Великая_красота\n", "{'Выпускники_Кембриджского_университета'}\n", "Ардзинба,_Владислав_Григорьевич Шиман,_Пауль Беспощадная_толерантность\n", "{'Политики_XX_века'}\n", "Большеносая_акула Лисьи_акулы Тхить_Куанг_Дык\n", "{'Рыбы_Атлантического_океана', 'Рыбы_Индийского_океана', 'Рыбы_Тихого_океана'}\n", "Форт_Аламо_(фильм,_1960) Спи,_моя_любовь Государственные_деятели_Первой_мировой_войны\n", "{'Фильмы_на_английском_языке'}\n", "Лютостанский,_Ипполит_Иосифович Филипп_II_(митрополит_Московский) Тит_Квинкций_Фламинин\n", "{'Извергнутые_из_сана'}\n", "Махмуд-паша Марк_Порций_Катон_Салониан_Младший Сверх-Борджиа_в_Кремле\n", "{'Персоналии_по_алфавиту'}\n", "Чернов,_Григорий_Иванович Каспаров,_Гарри_Кимович Корабли_измерительного_комплекса_проекта_1914\n", "{'Члены_КПСС'}\n", "Махмуд-паша Александрян,_Рафаэль_Арамович Сикст_из_Оттерсдорфа\n", "{'Персоналии_по_алфавиту'}\n", "Операция_«Юго-Восточная_Хорватия» Штурм_Мервильской_батареи Chungking_Mansions\n", "{'Сражения_Германии'}\n", "Cult_County Sonic_Adventure_2 Клуб_Винкс_Волшебное_приключение\n", "{'Компьютерные_игры,_разработанные_в_США', 'Игры_для_Windows'}\n" ] } ], "source": [ "for (a, b, c, explanation) in triplets[:100]:\n", " # L1 distance, just for example\n", " similar_dist = sum(abs(theta[a] - theta[b])) \n", " diffrnt_dist = sum(abs(theta[a] - theta[c]))\n", "\n", " if (similar_dist > diffrnt_dist):\n", " print(a, b, c)\n", " print(explanation)\n" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [] } ], "metadata": { "kernelspec": { "display_name": "Python 3", "language": "python", "name": "python3" }, "language_info": { "codemirror_mode": { "name": "ipython", "version": 3 }, "file_extension": ".py", "mimetype": "text/x-python", "name": "python", "nbconvert_exporter": "python", "pygments_lexer": "ipython3", "version": "3.8.11" } }, "nbformat": 4, "nbformat_minor": 2 }