Вы приходите домой и включаете любимый стриминг. Лента сразу же выдаёт вам несколько фильмов и сериалов, которые… действительно хочется смотреть. Сегодня разберём, как именно рождается эта магия вне Хогвартса, и что сидит под капотом рекомендательного движка онлайн-кинотеатра.

Так как лично я чаще других сервисов включаю Кинопоиск (да, я посчитал с точностью до минуты), то детализировать детали и анализировать нюансы я буду именно на его примере. И да, в этой статье не будет сложных технических терминов и греческих букв. Её цель - раскрыть основные принципы стримингов человечьим языком и наглядно.

Итак, погнали:

Этого стриминга в Химках видал, неточными рекомендациями торгует!

Давайте пойдём поэтапно. Что нужно сделать онлайн-кинотеатру, чтобы быть классным? Рискну предположить, что сначала ему нужно вот что:

1. Составить хорошую библиотеку. Добавить к себе сериалов и фильмов крутых и разных, да побольше!

2. Набрать пользовательскую базу. Чтобы я, вы, ваша мама, ваш коллега и вон тот парень оформили подписку. Но не только - важно, чтобы вы ещё регулярно смотрели (почему - объясню ниже, это важный момент).

Итак, у нас есть контент, и у нас есть пользователи. Говоря более научно, есть item, и есть user. И теперь кинотеатру нужно сделать третий шаг, ключевой:

1. Соединить user и item. Проще говоря, дать пользователю Васе именно тот фильм, сериал или аниме по манге (мало ли от чего прётся наш Василий), который ему а) нужен в целом и б) актуален прямо сейчас.

Но как это сделать?

Вариант первый - плясать от юзера Васи (user-based recommendations). Допустим, мы видим, что Вася с кайфом посмотрел последний российский детектив про жуткого маньяка. Ну окей, пульнём ему другие леденящие душу истории про серийных убийц. Но что если ему понравился именно тот детектив, а новые не зайдут?

Хорошо, тогда можно использовать обратный подход - плясать от контента (item-based recommendations). Пусть алгоритмы глянут, что там "сидит" внутри этого детектива - сюжетные повороты, темп повествования, атмосфера, антураж, локации, год выпуска, набор актёров, подмешивание других жанров и т.д. Находим максимально похожий тайтл и кидаем его Васе на первое место в ленте!

Но Вася проходит мимо и садится смотреть турецкий сериал с Серканом Болатом, или как там его зовут. Почему? Да хрен его знает. Может после того сериала у него детективный передоз, и больше он не хочет смотреть на мрачные расследования? А может Вася планирует поездку в Турцию, и хочет полюбоваться видами Стамбула? Или ещё проще - у Васи появилась девушка, и пульт теперь у неё (ну или мы просто чего-то о нём не знаем). Люди - существа иррациональные, причин может быть очень много, а на поверхности - ни одной.

Как видите, чистый user-based и item-based - это упражнение, конечно, интересное, но полезное лишь для общего развития. А для точных стриминговых рекомендаций нужно что-то позабористее. Но что?

Существует три вида лжи…

… ложь, наглая ложь и статистика. Так про статистику говорил то ли Бенджамин Дизраэли, то ли Марк Твен (но не Ленин, как многие думают, Ильич как раз статистику очень любил и уважал). Смысл цитаты в том, что статистическими выводами можно:

• а) вертеть как угодно

• и б) делать это на максимально серьёзных щщах

Ведь вывод будет подкреплён (ну, типа) анализом выборки, а не просто взят с потолка.

Не буду спорить, но в случае рекомендательных систем - это вовсе не минус, а очень даже плюс. Потому что нас интересует не единственно верная истина, а набор наиболее релевантных вариантов. Но давайте конкретнее:

В рекомендательных системах онлайн-кинотеатра выбор на основе большой статистики воплощён в виде коллаборативной фильтрации (КФ). КФ - это база-основа любого годного стриминга, от Ютуба до Яндекс Музыки. Онлайн-кинотеатры в целом, и Кинопоиск в частности - не исключение.

Давайте разберём, что это такое:

Коллаборативная фильтрация работает на предположении, что:

Пользователи, которые одинаково оценили какие-либо тайтлы (т.е. фильмы/ сериалы) в прошлом, склонны давать похожие оценки другим тайтлам в будущем.

То есть, если фильм "Ромашка" понравился многим пользователям с похожей историей просмотров, то он скорее всего понравится и другим пользователям с такой же (или почти такой же) историей просмотров.

Давайте на примере (очень упрощённо и схематично):

Допустим, недавно Вася посмотрел до конца и поставил высокую оценку вот таким тайтлам:

• Мастер и Маргарита

• Атака Титанов

• Фишер

• Игры

А Петя сделал то же самое вот с таким контентом:

• Киберслав

• Атака Титанов

• Фишер

• Игры

Итак, у Васи и Пети все тайтлы одинаковые, кроме одного различия: Мастер и Маргарита против Киберслава (ставьте лайк, если хотели бы увидеть такой кроссовер). По логике КФ, если пользователи “обменяются” своими 4 тайтлами (Вася глянет Киберслава, а Петя М&М), то им должно понравиться. Собственно, отсюда и слово “коллаборативная” в названии - пользователи как бы сотрудничают, подкидывая наилучшие рекомендации друг другу.

Понятное дело, что пример выше упрощён до неприличия. В реальности должны быть не Вася с Петей, а несколько сотен тысяч (а лучше миллионов) юзеров, и тайтлов в анализе должно быть слегка больше четырёх. И тогда рекомендательная система может на больших данных глянуть, что смотрят юзеры с похожими предпочтениями, и сделает статистически значимый вывод.

Чтобы было ещё понятнее, давайте проведём аналогию с чем-нибудь из жизни. Я вот с утра в зал сходил, давайте с ним и сравним:

Зал видит, что вы сделали жим сотку, гантели по тридцатке и пошли на кардио. А ещё он в своей базе данных видит, что были другие посетители, которые делали то же самое. Многие из них ещё делали румынскую тягу и французский жим. Логично будет порекомендовать эти упражнения и вам (вероятность попадания будет статистически высокая).

Однако, что будет, если вам нельзя делать румынскую тягу по медицинским показаниям, а во время французского жима вы год назад уронили гантелину на голову и теперь у вас психологический блок на это упражнение? Или ещё прикольнее - система подобрала целых 10/ 20/ 50/ да хоть тысячу статистически актуальных упражнений. Какое порекомендовать первым, а какое последним? И вообще, зачем всех под одну гребёнку пихать? Я же уникальная снежинка, предложи мне что-нибудь эдакое!

Вот и с контентом в онлайн-кинотеатре то же самое.

• А что если Вася сильно отличается от других юзеров, которые смотрели похожие тайтлы?

• А если актуальных рекомендаций много, то какую порекомендовать первой, второй, двадцать седьмой?

• И вообще, настроение у Василия игривое, он хочет сюрпризов, удивите!

• Или ещё сложнее - что если Вася только-только зарегался на Кинопоиске, и у него ещё нет никакой истории (a.k.a. “холодный юзер”)?

(Cat)бустим коллаборативную фильтрацию

Для преодоления вышеописанных преград, коллаборативная фильтрация отлично дополняется градиентным бустингом. Для начала очень кратко распишу, что это вообще за зверь такой:

Итак, градиентный бустинг - это такой метод машинного обучения, когда несколько “небольших” моделей применяются последовательно, и каждая из них исправляет ошибки предыдущей. Шаг за шагом ошибка становится всё меньше и меньше, а результат всё точнее и точнее.

Множество маленьких моделек градиентного бустинга ещё называют “ансамбль моделей”. По-французски emsemble значит "вместе", ну вы поняли.

Давайте разберём на примере пиццы. Ну а что, в зал мы уже сходили, так что имеем право.

Итак, допустим, вы понятия не имеете, как готовить пиццу (= не знаете юзера Васю), но слышали, что её делают из теста и сыра. Вы кидаете кусок теста и сыра в печку. Получилась дрянь. Вы думаете: “А что, если раскатать тесто и положить на него сыр?”. Уже лучше, но тесто сгорело. Вы повторяете попытку, уменьшая жар. Ещё лучше, но сыр подгорел. Вы насыпаете его более равномерно. Отлично, но не хватает томатной пасты. Вы добавляете пасту. Теперь это уже похоже на пиццу, но всё равно есть что улучшать. Вы можете дальше повторять итеграции, играясь с рецептом и технологией готовке, пока у вас не получится идеальная пицца как у дядюшки Джузеппе.

Градиентный бустинг в онлайн-кинотеатре работает точно так же, только шагов и ошибок в “дереве решений” может быть гораздо-гораздо больше, ну и тесто с сыром не нужно портить (это ж машинное обучение, в конце концов).

У Кинопоиска за градиентный бустинг отвечает штука под названием CatBoost.

CatBoost - это набор библиотек (= готовых шаблонов и решений) градиентного бустинга, который Яндекс использует во многих своих сервисах: в маркетплейсе, прогнозе погоды, рекламных системах, музыкальном стриминге и т.д. Ну и в онлайн-кинотеатре, само собой.

“Cat” здесь значит “категориальный”, то есть модель заточена на работу с категориями, а не только с числовыми данными. Она умеет мыслить не только понятиями "один-ноль" и “больше-меньше”, но и отличать кошечку от собачки, Турцию от Кореи (а Южную Корею от Северной), детектив от триллера (или от комедии, хоррора, пеплума, …), Юру Борисова от Ванпанчмена и т.д.

Итак, вернёмся к нашему юзеру Васе. 

Сценарий первый. Коллаборативная фильтрация отобрала ему 50 самых-самых релевантных фильмов. И ещё 10 сериалов в качестве бонуса. Как всю эту очередь расставить в ленте?

Допустим, в списке есть Начало и Интерстеллар. Кого поставить выше? CatBoost видит, что Вася ставил всем фильмам Нолана оценку 8+ (любит он Нолана, в общем). Также он видит, что Вася плюс-минус одинаково хорошо смотрит и Ди Каприо, и Макконахи. Он идёт дальше, перебирает другие факторы. И видит, что по вечерам Васе чуть лучше заходит космическая тематика. А ещё он в Яндексе недавно чёрные дыры искал - совпадение? Сейчас как раз вечер, так что поставим Интерстеллара чуть выше Начала.

Понятно, что в реальности алгоритм будет ранжировать (да, забыл сказать, такая операция называется “ранжирование”) из множества единиц контента и одновременно учитывать сотни и тысячи единиц информации о пользователе. Но логика такая.

Сценарий второй. Вася из другой реальности (скажем, с Земли-616) только-только зарегался на Кинопоиске. Данных по нему нет, сравнить с другими пользователями не выйдет, коллаборативно фильтрануть не получится. Но! Во-первых, он наверняка зарегается не просто так из вакуума, а придёт за определённым тайтлом.

Ну например, увидит сериал “Игры” и такой: “О, это мне надо, хочу смотреть на младшего Верника в антураже брежневского Союза”. И оформит подписку. 

И алгоритмы такие: “Ага, ему нравится младший Верник (ну или Серебряков, единственный в своём роде), антураж СССР, спортивная тематика, драмы с элементами детектива, современные российские сериалы, …”. Это всё гипотезы, каждую из них CatBoost может начать отрабатывать. Рекомендовать, смотреть на результат. Рекомендовать дальше, улучшать результат, отрабатывать ошибку. И так далее, далее, далее. Повышая знание о пользователе, учитывая всё новые факторы, делая “градиент” всё более плавненьким. В какой-то момент у Василия будет достаточно истории, и его получится нормально запихнуть в коллаборативную фильтрацию.

Если Вася всё же пришёл из ниоткуда (действительно холодный юзер), то ему сначала дадут глянуть что-нибудь из самого популярного. Посмотрят, как он реагирует на разные тайтлы из топ-10, а дальше см. выше.

Здесь ещё можно было бы разобрать, какие факторы учитываются в градиентном бустинге, как именно алгоритм достаёт эти данные, с какой скоростью он учится… и многое другое.

Однако, статья и так получилась чуть больше, чем я планировал, поэтому на этой ноте откланяюсь. Напоследок держите набор простейших действий, способных здорово помочь КэтБусту и натренировать Кинопоиск. С другими онлайн-кинотеатрами тоже должно сработать - вплоть до Netflix или даже Youtube (последний - это тоже своего рода стриминг). Итак:

• Ставим высокие оценки фильмам и сериалам, которые вам нравятся, и низкие - тем, которые не зашли. Для этого в конце просмотра есть специальная голосовалка, не пропускаем её.

• Если листаем ленту и видим что-то прикольное, не стесняемся добавлять в “Буду смотреть”.

• Если видим, что рекомендательная система прогадала и запихнула в ленту залётные неактуальные тайтлы, то прожимаем кнопку "Неинтересно".

• Если вас зацепил какой-то фильм или сериал из ленты, но вы не хотите его смотреть прямо сейчас, то можно включить его хотя бы на пару минут (а лучше минут на 5-10). Это станет важным сигналом для рекомендательных систем.

Если не забывать про эти простые шаги, то алгоритмы скажут вам “спасибо”, коллаборативная фильтрация станет ещё более меткой, а вы сможете тратить ещё меньше времени на поиск персонализированной актуалочки.

Очень надеюсь, что вам стало понятнее, по какой логике алгоритмы этих наших стримингов вываливают на нас именно те фильмы, сериалы и прочее народное творчество, которое актуально, релевантно и желанно именно нам и именно в данный конкретный момент времени.

P.S. Понятно, что выше я описал основные подходы и базовую логику их применения. На самом деле сложность и продвинутость сего действия нужно умножить на дцать, и вообще, там всё переплетено так, что мама не горюй. Но принцип именно такой. 

Если вам понравилось, то подписывайтесь на мой тг-канал Дизраптор, где я человечьим языком разбираю интересное из технологий, инноваций и бизнеса. А на втором канале Фичизм выходят самые кайфовые фичи и всё такое.

1) Текущая ситуация с оценками и соответственно с рейтингом фильмов:

Многие понимают что хорошим фильмам надо ставить высокие оценки и так сильно это понимают, что забывают, что одновременно с этим надо средним фильмам ставить средние оценки и плохим - низкие, худшим фильмам - минимальную оценку 1, лучшим - максимальную 10.
На Кинопоиске оценок 7, 8, 9, 10 - 80%, средняя оценка - 8,1.Оценки 1 и 10 одинаково нужны, просто они противоположные, но оценок 1 - 3%, а оценок 10 - 40%, в 13 раз больше.

В основном используют только 3-4 оценки из 10, только высокие или только средние, то есть все фильмы по их оценкам получаются только хорошие или только средние.
Первые, фильмам, которые они сами же считают худшими, ставят 7 или 8, не могут же ставить ниже, стесняются поставить 1 как надо, завышают до высоких, равняют их с хорошими фильмами и портят рейтинг.Неправильно оценивают - относительно 10 в одну сторону, уменьшения до 8 или 7.
Вторые, кто ставит только средние оценки, хорошим фильмам занижают и также плохим завышают до средних.Нужно же делать наоборот - плохим занижать, а хорошим завышать!
Такие оценки одного уровня никому не нужны, ими говорят что все фильмы одного уровня, не различают их.

Разные люди используют разные 3-4 оценки, это значит что одинаковые оценки разных людей имеют разные значения.
Что означает оценка, например 8, от людей по разному оценивающих:
От того кто ставит оценки только 8, 9, 10 - 8 его минимальная оценка, значит кино плохое, худшее.
От того кто ставит оценки только 7, 8, 9 - 8 его средняя оценка, значит кино среднее.
От того кто ставит оценки только 6, 7, 8 - 8 его максимальная оценка, значит кино хорошее, лучшее.
Так как десятибалльная шкала используется разными людьми только частично и неправильно и по разному - оценки и рейтинг вообще ничего не значат.

2) Совет про оценки для выбора фильмов, до просмотра будете знать, понравятся вам они или нет:

Лучше тремя оценками использовать весь диапазон десятибалльной шкалы.
3 оценки соответствуют трём группам в которых 10 оценок: низкие (1, 2, 3), средние (4, 5, 6, 7) и высокие (8, 9, 10).Нет никакого смысла выбирать из оценок одного уровня, они же почти одинаковые, лучше их объединить.
1) Из группы высоких оценок лучше взять 10, для лучших фильмов, которые интересны, нравятся и рекомендуешь другим.
2) Средняя оценка из 10 - 5,5, округляем, завышаем за проявление интереса до 6 для средних, нормальных фильмов.Проще оценивать относительно центра 6 в обе стороны до предела - уменьшения до 1 и увеличения до 10.
3) Из группы низких лучше взять 1, для худших фильмов, которые не интересны, не нравятся и не рекомендуешь, чтобы другие зря не тратили на них время.

Не количество вариантов оценок важно, а равное количество минимальных, средних и максимальных оценок.
У того кто использует 10 оценок в идеале должно быть по 10% просмотренных фильмов с каждой оценкой:
30% худших фильмов с оценками 1, 2, 3;
40% средних фильмов с оценками 4, 5, 6, 7;
30% лучших фильмов с оценками 8, 9, 10.
У того кто использует 3 оценки в идеале должно быть по 33% просмотренных фильмов с каждой оценкой:
33% худших фильмов с оценкой 1;
33% средних фильмов с оценкой 6;
33% лучших фильмов с оценкой 10.

Соответствие и разница основных оценок 1, 6, 10 с десятью оценками, на которые они делятся:
10 и 8, 9, 10 - Лучшим оценка выше: +2, +1, 0.
6 и 4, 5, 6, 7 - Средним: +2, +1, 0, -1.
1 и 1, 2, 3 - Худшим оценка ниже: 0, -1, -2.
Если наоборот, переходить с 3 оценок на 10, то нужно из худших фильмов с оценкой 1, выбрать 1/3 и поставить им 2 (+1), ещё 1/3 и поставить им 3 (+2).Также и с остальными.Зачем их делить?Пусть будет 1.
Нет смысла делить 1, 6, 10 на 10 оценок и наоборот - увеличивать оценку тем что не нравятся и уменьшать тем что нравятся.2 оценки - это мало, а 4 - уже много, лучший вариант это 3 оценки, остальные 7 оценок вообще нисколько не нужны.

Тремя оценками проще чётко обозначить свои интересы.Хорошие фильмы максимально отделяются от плохих с разницей в 9 баллов.Так будет максимальное влияние своими интересами на общий рейтинг фильмов и рейтинг по оценкам 300 друзей по интересам на Кинопоиске, которые набираются по совпадению и близости оценок.
Те, кто будет занижать хорошим и завышать плохим для вас фильмам (особенно если максимально на 9 баллов), пропадут из вашего списка друзей по интересам, их заменят максимально подходящие и ориентируясь на их оценки до просмотра кино будете знать, понравится вам оно или нет.

3) Влияние:

У людей разные интересы и с оценками 1, 6, 10 влияют на рейтинг по средней оценке в 4,5 раза больше, чем с любыми тремя оценками рядом идущих (8, 9, 10 например).Потому что разница между худшими и лучшими фильмами у первых - 9 баллов, а у вторых всего 2.

4 примера как оценки 1, 6, 10 влияют на рейтинг по оценкам 8, 9, 10:
1) Три человека с одинаковыми интересами поставили трём фильмам оценки 8, 9, 10, рейтинг этих фильмов - соответствующий - 8, 9, 10, но пришёл один с противоположными интересами (для них худший фильм - для него лучший), поставил 10, 6, 1 и развернул порядок фильмов по рейтингу наоборот, в свою сторону, который стал 8,5, 8,3, 7,8.

2) Четыре человека (8, 9, 10) против одного (10, 6, 1) - рейтинг 8,4, 8,4, 8,2.
Он им сравнял худший и средний, а лучший для них стал худшим по рейтингу, в пользу поставившего 10, 6, 1.

3) Пять человек (8, 9, 10) против одного (10, 6, 1) - рейтинг 8,3, 8,5, 8,5.
Он им сравнял средний и лучший, пять человек смогли отстоять только худший для них.

4) Шесть человек (8, 9, 10) против одного (10, 6, 1) - рейтинг 8,3, 8,6, 8,7.
Только шесть человек смогли отстоять свои интересы, порядок фильмов по рейтингу полностью совпал с порядком по их оценкам.Только им такой рейтинг не нужен, потому что он почти одинаковый, разница между лучшим и худшим всего лишь 0,4.

Большинство людей не могут полностью использовать десятибалльную шкалу - не могут ставить оценки ниже 7.Мыслят - относительно 10 в одну сторону, уменьшения до 7.То есть фильмам, которые они сами же считают худшими, ставят 7 или 8, а не 1 как надо, завышают, равняют их с хорошими и портят рейтинг.Стесняются поставить 1 худшим фильмам, а оценка 1 нужна также как и 10 - чтобы другие зря не тратили на них время.
Оценок 7, 8, 9, 10 на Кинопоиске - 80%, статистика - https://www.kinopoisk.ru/votes/

Лучше оценивать кино только с оценками 1, 6, 10, чем только с высокими 8, 9, 10, как большинство людей.Очевидно же, что худшим фильмам надо ставить минимальную оценку 1, лучшим - максимальную 10, средним - среднюю 6.Из группы низких (1, 2, 3) лучше взять 1, а из группы высоких (8, 9, 10) - 10.Так хорошим фильмам оценка выше, а плохим ниже и они максимально отделяются с разницей в 9 баллов.Лучше тремя оценками использовать весь диапазон десятибалльной шкалы и мыслить относительно центра 6 (средних, нормальных фильмов) в обе стороны до предела - уменьшения до 1 и увеличения до 10.
Соответствие и разница оценок 1, 6, 10 с десятью оценками:
10 и 8, 9, 10 - Тем что нравятся оценка выше: +2, +1, 0.
6 и 4, 5, 6, 7 - Средним +2, +1, 0, -1.
1 и 1, 2, 3 - Тем что не нравятся оценка ниже: 0, -1, -2.
Нет смысла делить 1, 6, 10 на 10 оценок и наоборот - уменьшать оценку тем что нравятся и увеличивать тем что не нравятся.

Так будет максимальное влияние своими интересами на общий рейтинг фильмов и рейтинг по оценкам 300 друзей по интересам на Кинопоиске, среди которых отсеиваются несовпадающие и набираются совпадающие по близости оценок.
1) Те, которые хорошему для вас фильму с оценкой 10, поставят свою минимальную оценку 8, то может показаться что интересы совпадают - оценки же одного уровня - высокие.Но это не так, для них это плохое кино, просто оценки ниже 8 они не ставят.
2) А если наоборот, плохому для вас фильму с оценкой 1 они поставят 10 (пускай даже 8), то тут уже разница максимальная, оценки противоположные, понятно что интересы не совпадают и такие люди пропадут из вашего списка друзей по интересам и до просмотра кино будете знать, понравится вам оно или нет.