[Документальное исследование] Предвзятость популярности в динамических рекомендациях

Введение

Предвзятость популярности — давняя проблема рекомендательных систем:Предметы с высокой популярностью рекомендуются чрезмерно, в то время как менее популярные предметы, которые могут заинтересовать пользователей, рекомендуются недостаточно., эта предвзятость оказывает пагубное влияние как на потребителей, так и на продавцов, и многие исследования были посвящены борьбе с этой предвзятостью.

Большинство существующих исследований, как правило, применяют предвзятость популярности к статическим параметрам, то есть: модели рекомендаций обучаются на офлайн-наборах данных, а затем проводится один раунд рекомендаций для анализа предвзятости популярности. Хотя эти исследования подчеркивают распространенность предвзятости популярности, в статье утверждается, что предвзятость может быть динамической, включая факторы, влияющие на предвзятость популярности и ее эволюцию, а также эффективность методов смягчения этой предвзятости при реалистичных предположениях об эволюции системы секса. Таким образом, в этой статье предлагается основа для исследования предвзятости популярности в динамических рекомендациях.

Динамическую рекомендацию можно рассматривать как замкнутый цикл, как показано на рисунке 1. Пользователи взаимодействуют с системой посредством ряда действий (таких как щелчок, просмотр, оценка); затем данные отзывов пользователей используются для обучения модели рекомендаций; обученная модель используется для рекомендации новых продуктов пользователю; затем постоянно запускается новый цикл.

Хотя существует множество факторов, которые могут повлиять на этот динамический процесс рекомендаций, авторы выделяют четыре ключевых фактора, которые могут повлиять на предвзятость популярности и ее эволюцию:

Врожденный дисбаланс размера аудитории: пользователи могут предпочесть определенные элементы (даже в модели непредвзятых случайных рекомендаций), что означает, что несколько элементов могут иметь очень большой размер пользователя, в то время как большинство элементов имеют небольшой размер пользователя.
предвзятость модели: сама модель рекомендаций может усилить любой дисбаланс в наборе данных, который она использует для обучения.
смещение позиции: на основе рекомендаций, данных моделью, пользователи с большей вероятностью будут просматривать элементы с самым высоким рейтингом.
замкнутый контур обратной связи: данные обратной связи, собранные из текущей модели рекомендаций, повлияют на обучение будущих моделей из-за повторяющихся циклов, потенциально накапливающих систематическую ошибку.

В данной работе представленпредвзятость популярности-возможности, которая представляет собой формализованную формулировку предвзятости популярности, основанную на концепции равных возможностей. Традиционная предвзятость популярности основана наСтатистическое среднее, т. е.: сравнить количество рекомендованных раз среди популярных и непопулярных товаров. в то время как систематическая ошибка распространенности-шансаИзмеряет, кликают ли популярные и непопулярные элементы (или другие показатели) пропорционально их истинному размеру аудитории., сравнивая уровни вовлеченности, а не просто подсчеты рекомендательных систем, можно добиться предвзятости популярности-шанса, напрямую связанной с удовлетворенностью пользователей и экономической выгодой для поставщиков товаров.

В статье есть три основных вклада:

Во-первых, всестороннее эмпирическое исследование предвзятости популярности в динамических рекомендациях проводится с помощью экспериментов с моделированием, исследуя эволюцию предвзятости популярности в динамических рекомендациях и влияние этих четырех факторов на предвзятость популярности. В статье показано, что врожденный дисбаланс размера аудитории и предвзятость модели являются основными факторами предвзятости популярности, которая еще больше усугубляется предвзятостью местоположения и замкнутой обратной связью. Кроме того, в статье сравниваются две разные стратегии отрицательной выборки, чтобы проиллюстрировать, что влияние предвзятости популярности можно смягчить путем тщательного планирования отрицательной выборки.
Во-вторых, мы изучаем, как устранить предвзятость популярности в динамических рекомендациях. В этой статье будет показано, как адаптировать метод устранения смещения, предложенный в статической среде, к динамическим сценам, а также предложен независимый от модели метод устранения смещения с ложной положительной коррекцией (FPC), который можно комбинировать с другими методами устранения смещения для дальнейшего повышения производительности.
Наконец, обширные эксперименты показывают эффективность предложенного метода динамического устранения смещения по сравнению со статическими стратегиями, а также иллюстрируют значительное улучшение производительности, обеспечиваемое методом FPC.

постановка проблемы

Формализация динамических рекомендаций

Если предположить, что существует онлайн-платформа, которая предоставляет рекомендации, такие как рекомендации фильмов, вакансий или песен, процесс динамической рекомендации в ней выглядит следующим образом:

Каждый раз, когда пользователь посещает платформу, платформа будет предоставлять ранжированный список продуктов на основе модели персонализированных рекомендаций, полученной из исторических отзывов пользователя.
Регулярно обновляйте модель персонализированных рекомендаций с помощью вновь собранной информации об отзывах пользователей. Чтобы направлять нового пользователя (холодный старт), платформа будет использовать некоторые неперсонализированные методы, чтобы понять предпочтения пользователя, такие как случайный показ пользователю некоторых элементов и сбор отзывов.

Подводя итог, предположим, что в системе есть набор пользователей $U=\{1,2,..,N\}$ , и набор предметов $I=\{1,2,...,M\}$ . У каждого пользователя есть набор предметов, которые ему нравятся (для $I$ подмножество), как элемент $i$ Общее количество пользователей можно определить как $i$ размер аудитории,использовать $A_i$ Выражать.

На этапе повышения система случайным образом рекомендует $K$ продукты, чтобы направлять пользователей для сбора кликов пользователя по продукту $D$ . По исходным данным $D$ , получить первую рекомендательную модель $\Psi$ , например, можно обучить модель матричной факторизации (МФ). Когда пользователи входят в систему один за другим, система использует последнюю модель, чтобы рекомендовать $?$ Рейтинг продуктов и сбор новых кликов пользователей по продуктам. Каждый $L$ После того, как каждый пользователь закончит посещение, система переобучит модель на основе всех собранных кликов, и весь процесс показан в Алгоритме 1.

Предвзятость популярности формализована

Предвзятость популярности-шанса вводится для формализации предвзятости популярности на каждой итерации процесса динамической рекомендации. $t$ Чтобы скорректировать предвзятость, нам сначала нужно рассчитать его истинную положительную скорость для каждого элемента. Гипотетические товары $i$ в итеративном цикле $t$ клики в $C^t_i$ ,но $i$ Истинный положительный показатель $TPR_i=C^t_i/A_i$ . После этого итерация измеряется коэффициентом Джини. $t$ Степень неравенства истинно положительных показателей, связанных с популярностью товара в:

Gini_t=\frac{\sum_{i\in I}(2i-M-1)TPR_i}{M\sum_{i\in I}TPR_i}

Среди них товары располагаются в порядке неубывания от 1 до М по размеру аудитории, то есть $A_i \leq A_{(i+1)}$ . использовать $Gini_t\in [-1,1]$ Чтобы количественно оценить предвзятость популярности, меньшее абсолютное значение индекса Джини указывает на меньшую предвзятость. $|Gini_t>0|$ указывает на то, что истинный положительный показатель положительно коррелирует с размером аудитории продукта, $|Gini_t<0|$ Указывает на отрицательную корреляцию (т. е. обратное смещение популярности).

Факторы, влияющие на предвзятость популярности

Как показано на рисунке 1, необходимо сосредоточиться на четырех основных факторах:

Врожденный дисбаланс размера аудитории

Разные продукты имеют разный размер аудитории, и этот дисбаланс может привести к искажению популярности. Например, размер аудитории продуктов обычно следует распределению с длинным хвостом, то есть размер аудитории небольшого количества продуктов очень велик, а размер аудитории большинства продуктов мал. Это приводит к естественному дисбалансу в данных о привязанности пользователей (таких как клики и т. д.) даже в случае полностью случайных рекомендаций.

предвзятость модели

В случае, когда пользователям могут понравиться два продукта одинаково, рекомендательная модель также имеет тенденцию ранжировать продукты с большим количеством кликов, чем с меньшим количеством кликов в данных обучения.Это общий алгоритм, основанный на совместной фильтрации.Недостатки, если данные обучения не сбалансирован, напрямую приведет к предвзятости популярности.

предвзятость местоположения

В сценарии сортировки обычным явлением является то, что элементы с более высокими позициями просматриваются с большей вероятностью, чем элементы с более низкими позициями. Если есть также врожденный дисбаланс размера аудитории и предвзятость модели, позиционные предубеждения могут усугубить предвзятость популярности.

обратная связь с обратной связью

Будущие модели обучаются на основе данных о кликах из предыдущих моделей и рекомендательных систем.Таким образом, предвзятость популярности, созданная в прошлом, накапливается, а в последующих моделях генерируется больше по мере продолжения цикла обратной связи.

экспериментальное обучение

В этом разделе проводится эмпирическое исследование того, как предвзятость популярности развивается в динамических рекомендациях, включая влияние четырех факторов, обсуждавшихся ранее, на предвзятость, а также путем сравнения двух различных стратегий отрицательной выборки, чтобы проиллюстрировать, как тщательный дизайн отрицательной выборки может смягчить влияние популярности. предвзятость.

настраивать

Эксперимент столкнулся с двумя ключевыми проблемами:

Как получить полную правду о корреляциях между пользователем и элементом?
Как имитировать поведение кликов пользователя, чтобы давать предложения?

Для первой задачи, создания полусинтетических данных из реального набора данных взаимодействия пользователя с элементом, мы использовалиML1MиCiaoнаборов данных, 1000 пользователей в каждом наборе данных были зарезервированы случайным образом. После этого используется модель матричной факторизации (MF), чтобы дополнить исходный набор данных, чтобы обеспечить наземные корреляции между пользователем и элементом. Путем изменения процесса генерации данных для каждого базового набора данных также были созданы 4 переменные с различными уровнями дисбаланса размера внутренней аудитории для изучения влияния дисбаланса размера внутренней аудитории.

Затем были проведены имитационные эксперименты на основе процедуры Алгоритма 1, где $K=20,T=40000,L=50$ .

Для второй задачи, основанной на позиционном уклоне $\delta_k=1/log_2(1+k)$ моделировать поведение пользователей при кликах, чтобы идентифицировать пользователей $u$ Нужно ли нажимать, чтобы просмотреть местоположение $k$ товары в $i$ .

Кроме того, специальной операцией является:Отрицательные образцы взяты из элементов, которые рекомендуются каждому пользователю, но на которые он не нажимал., этот метод может обеспечить более высокую полезность рекомендаций и более низкую предвзятость популярности, чем традиционная стратегия отрицательной выборки (выборка отрицательных выборок из всех элементов, по которым не было кликов).

Способы смягчить предвзятость

В статье на основе эмпирических исследований показано, что предвзятость модели и присущая дисбаланс размера аудитории являются двумя наиболее важными факторами, влияющими на популярные рекомендации.Среди них на предвзятость модели могут напрямую влиять операторы (исследователи), а остальные три фактора существуют в системе. Внутренний аспект. С помощью экспериментов было обнаружено, что если устранить погрешность модели, погрешность популярности по-прежнему будет очень низкой даже с учетом влияния трех других факторов. Поэтому в этом разделе мы сосредоточимся на том, как смягчить предвзятость популярности в динамических рекомендациях за счет уменьшения предвзятости модели.

Уменьшение предвзятости модели за счет динамики

Основное внимание в этом разделе уделяется тому, как применять существующие статические методы устранения смещения к динамическим сценариям.Основная идея заключается в постепенном увеличении веса силы устранения смещения в существующих моделях.

Большая часть существующей работы направлена на уменьшение предвзятости популярности в статических сценах за счет уменьшения предвзятости модели. Например, метод под названием «Масштаб» снижает погрешность за счет изменения масштаба выходных данных модели рекомендаций. В частности, для пары пользователь-элемент $(u,i)$ Его показатель масштабирования:

\hat{r}^{scaled}_{u,i}=\hat{r}^{model}_{u,i}/(C_i)^\alpha

в, $\hat{r}^{model}_{u,i}$ - оценка прогноза, выводимая рекомендательной моделью, $C_i$ количество кликов по элементу в обучающем наборе данных, $\alpha$ — это гиперпараметр, используемый для управления силой устранения смещения, чем выше значение, тем выше сила.

В статической рекомендации $\alpha$ Как константа, эта настройка явно невозможна в динамических рекомендациях, поэтому в статье предполагается, что с процессом модели динамических рекомендаций $\alpha$ Постепенно увеличивайте от 0, и размер шага увеличения установлен на $\Delta$ . В частности, из $0$ старт, каждая итерация дает $\alpha$ увеличивать $\Delta$ .

Использовать ложноположительную коррекцию

В документе также предлагается независимый от модели метод коррекции ложных срабатываний для устранения смещения, сокращенноFPC, который вероятностно корректирует оценки прогноза на основе ложных положительных сигналов. (Положительный сигнал в тексте относится к рейтингу кликов, а ложноположительный сигнал относится к продукту, который рекомендуется, но не нажимается)

Предположим, вы хотите предсказать пользователей $u$ и товары $i$ корреляция между $\hat{r}_{u,i}$ , теперь есть оценки прогноза, полученные по рекомендательной модели $\hat{r}^{model}_{u,i}$ . Гипотетические товары $i$ было рекомендовано пользователям $u$ охватывать $F$ раз, но ни разу не кликнули, для каждого реферала было записано как $\{k_1,...,k_F\}$ , ложноположительный сигнал определяется как $\{c_{k1}=0,...,c_{kF}=0\}$ . далее определить пользователя $u$ нравится продукт $i$ Вероятность $\theta_{u,i}$ ,но $P(r_{u,i}=1)=\theta_{u,i}$ . Изменить рейтинг $k$ Вероятность того, что товар будет просмотрен, равна $\delta_k$ ,Сейчас $P(e_k=1)=\delta_k$ . Таким образом, учитывая ложноположительный сигнал, можно рассчитать $u$ как $i$ Условная вероятность: