Исследование и практика интеллектуальной вычислительной мощности рекламы Meituan на вынос

В эпоху глубокого обучения спрос и потребление вычислительной мощности растут день ото дня, и постепенно становится важной новой темой способы снижения стоимости вычислительной мощности и повышения эффективности вычислительной мощности. Целью интеллектуальной вычислительной мощности является уточненное и персонализированное распределение вычислительной мощности для достижения оптимального использования ресурсов. В этой статье в основном рассказывается об опыте, накопленном Meituan в процессе исследования и практики интеллектуальных вычислительных мощностей, в надежде помочь или вдохновить всех.

1. Предыстория бизнеса

В настоящее время ежедневный объем заказов Meituan Food Delivery превысил 40 миллионов, что делает его одним из самых важных направлений деятельности Meituan. Рекламный сервис на вынос также развился от одного бизнес-направления изначально до более чем десяти бизнес-направлений.Общий трафик сервиса увеличивается, а потребляемые машинные ресурсы также достигли определенного масштаба.

В сценарии на вынос трафик имеет очевидную бимодальную структуру, то есть два периода обеда и ужина являются пиками трафика, а в остальные периоды трафик невелик. При таких характеристиках трафика рекламные услуги на вынос сталкиваются с большей нагрузкой на производительность в часы пик, а в непиковые часы возникает большая избыточность вычислительной мощности. значение по-прежнему имеет большое значение Раскопайте пространство. С одной стороны, вычислительная мощность, потребляемая трафиком, не распределяется динамически в соответствии со значением трафика, что приводит к недостаточному распределению вычислительной мощности в системе на трафике с высокой ценностью, и значение не используется полностью, а на низкой значение трафика, происходит трата большого количества вычислительной мощности С другой стороны, в непиковые часы системный трафик низкий, что приводит к низкому общему коэффициенту использования ресурсов системы, что ограничивает систему для получения более высоких бизнес-процессов. преимущества.

Следовательно, вычислительная мощность должна распределяться более разумно, чтобы ее можно было использовать более эффективно. В настоящее время исследований по динамическому распределению вычислительных мощностей в отрасли немного.DCAF целевой рекламной платформы Alibaba.^[1]В качестве примера эта схема выполняет дифференцированное выделение вычислительной мощности в соответствии со значением трафика и выделяет разные длины очередей-кандидатов для трафика с разными значениями, чтобы максимизировать доход при ограниченных ограничениях ресурсов. DCAF представляет собой отличное решение, но оно имеет определенные ограничения в сценарии рекламы на вынос.

Для сценария рекламы на вынос группа специалистов по технологии рекламы на вынос провела ряд исследований и улучшений на основе решения DCAF.Это первая попытка объединить эластичное распределение очереди и эластичное распределение модели, и она добилась хороших результатов. . С одной стороны, когда машинные ресурсы неизменны, цена за тысячу показов может быть увеличена на 2,3%, а с другой стороны, когда бизнес-доход неизменен, машинные ресурсы могут быть сокращены на 40%. Наконец, мы переместили все машинные ресурсы на этап тонкой организации рекламы на вынос.Плоский план.

2. Общая идея

В механизме доставки рекламы на вынос, чтобы справиться с большим давлением онлайн-трафика и огромным набором кандидатов, мы разработали весь процесс поиска в каскадной структуре воронкообразного типа с последовательно уменьшающимися наборами кандидатов, в основном включая отзыв, грубую сортировку, мелкая сортировка, механизм и другие модули.

Общая идея реализации интеллектуальной вычислительной мощности заключается в выполнении дифференцированного распределения вычислительной мощности для различных потоков ценности при ограничении вычислительной мощности системы, чтобы повысить эффективность распределения вычислительной мощности в процессе поиска рекламы и максимизировать доход. Интеллектуальная вычислительная мощность в основном включает следующие четыре элемента:

1. Количественная оценка стоимости трафика: ценность трафика относится к преимуществам, которые трафик приносит платформе, рекламодателям и пользователям. Система должна иметь возможность количественно определять ценность трафика.

2. Количественный расчет расхода: вычислительная мощность трафика относится к машинным ресурсам, потребляемым трафиком в системе. В сценарии рекламы на вынос вычислительная мощность, потребляемая трафиком, тесно связана с системными переменными, такими как размер набора кандидатов, количество каналов отзыва, размер модели и ссылка. Эта же система требует Обладать способностью количественного определения вычислительной мощности трафика.

3. Количественная оценка вычислительной мощности системы: вычислительная мощность системы относится к сумме машинных ресурсов системы, которая согласуется с размерностью вычислительной мощности потока.Обычно вычислительная мощность системы может быть получена с помощью таких средств, как измерение давления; в процессе распределения вычислительных мощностей системы необходимо обеспечить, чтобы общий расход вычислительных мощностей не превышал мощности вычислительных мощностей системы.

4. Интеллектуальное распределение вычислительной мощности: Основываясь на трех вышеперечисленных элементах, интеллектуальное распределение вычислительной мощности осуществляется во всем звене механизма доставки рекламы. Мы определяем средства распределения вычислительной мощности как "упругое действие», в сценарии рекламы на вынос мы в основном суммируем следующие четыре действия:

Эластичная очередь: Онлайн-поиск — это воронкообразный процесс, и разным потокам значений может быть назначена различная длина очереди-кандидата в каждом модуле каскадной воронки.
эластичная модель: в сервисе оценки моделей разные потоки значений могут быть отнесены к разным моделям.Большие модели дают лучшие результаты оценки, чем маленькие модели, и потребляют больше вычислительной мощности.
эластичный канал: При многоканальном вызове разным потокам значений могут быть назначены разные каналы вызова.
эластичное звено: В поисковой ссылке разным потокам значений могут быть назначены поисковые ссылки разной сложности.

Необязательный диапазон для этих гибких действий, определенный как "Гибкая передача», например, длины очереди 100 и 200 соответствуют двум разным шестерням эластичной очереди.В рамках интеллектуальной вычислительной мощности процесс распределения вычислительной мощности представляет собой интеллектуальный процесс принятия решений с помощью упругого действия и эластичного механизма..

Анализ вызовов

Чтобы реализовать интеллектуальную вычислительную мощность в сценарии рекламы на вынос, мы в основном сталкиваемся со следующими проблемами:

решение проблем
- точка вызова: Целью интеллектуальной вычислительной мощности является оптимизация распределения ресурсов вычислительной мощности, что требует от нас решения проблемы «максимального увеличения дохода от трафика при ограничениях вычислительной мощности системы».
- совладание с идеями: Что касается существующих решений, проблема разделена на три подзадачи, а именно: оценка стоимости трафика, оценка вычислительной мощности трафика и распределение вычислительной мощности.
Гарантия стабильности системы
- точка вызова: Распределение вычислительной мощности системы возложено на интеллектуальную структуру вычислительной мощности.От равномерного распределения вычислительной мощности до интеллектуального распределения вычислительной мощности необходимо не только обеспечить стабильность самой интеллектуальной структуры вычислительной мощности, но и обеспечить бесперебойную работу. всего звена системы.
- совладание с идеями: В дополнение к мониторингу аварийных сигналов, предохранителей и переходов на более ранние версии, а также другим обычным мерам безопасности, мы внедрили функции управления в реальном времени на основе состояния системы для обеспечения стабильности системы.
Универсальность и расширяемость
- точка вызова: Принимая во внимание повторное использование базовых возможностей и расширение персонализированных возможностей, он поддерживает два основных направления: рекомендации рекламы на вынос и поиск, а также доступ к нескольким бизнес-сценариям.
- совладание с идеями: Основные компоненты предоставляют повторно используемые и расширяемые возможности в форме SDK, и на основе общих показателей оценки ценности, показателей оценки вычислительной мощности и интеллектуальной инфраструктуры вычислительной мощности он поддерживает комбинированное принятие решений из нескольких эластичных действий и эффективный доступ к нескольким бизнес-сценариям. .

3. Схематический дизайн

После углубленного совместного проектирования командой инженеров и командой алгоритмов мы разработали набор интеллектуальных вычислительных мощностей для совместного принятия решений с несколькими действиями. Вся структура состоит из компонентов принятия решений, компонентов сбора данных и компонентов управления. Компонент принятия решений является ядром интеллектуальной вычислительной системы, встроенной в службы приложений в виде SDK и обеспечивающей многоразовое и масштабируемое многоцелевое действие. комбинацияОптимальная способность принятия решений о передачеиГарантия стабильности системы, который расширяет возможности всех этапов механизма доставки рекламы, а компоненты сбора и контроля обеспечивают стабильность системы. Ниже в основном представлены два модуля оптимального выбора передачи и гарантии стабильности системы.

3.1 Оптимальное решение о передаче

Основываясь на существующем в отрасли решении для эластичных очередей, мы провели ряд исследований и улучшений:

Путем выбора более общего индекса оценки вычислительной мощности трафика и добавления модуля оценки вычислительной мощности трафика количественные показатели гарантированно будут общими, а точность будет улучшена для решения проблемы.Вычислительное квантование не является универсальным и неточнымПроблема.
Первая попытка постройки специального снаряженияСочетание эластичной очереди и эластичной модели, решеноНекоторый трафик не может быть смоделированПроблема.

Основываясь на вышеуказанных стратегиях, мы реализуем оптимальное решение о передаче, комбинируя несколько упругих действий.

3.1.1 Моделирование проблемы

Существующая программа

DCAF^[1]Задача преобразуется в соответствующую двойственную задачу для решения, и получается формула решения для реализации эластичного распределения очереди.

улучшение программы

Приведенная выше схема моделирования имеет следующие проблемы в сценарии рекламы на вынос:

Как показано на рисунке, из-за $j=j_0$ Вычислительная мощность и стоимость известны, и нет необходимости оценивать стоимость и вычислительную мощность различных моделей.Последующая работа по оценке стоимости трафика и оценке вычислительной мощности трафика может быть ориентирована на эластичные очереди.

3.1.2 Структура принятия решения

Как показано на рисунке, модуль оптимального выбора передачи разделен на два этапа: оффлайн и онлайн, включая следующие четыре подмодуля:

Модуль оценки стоимости трафика(офлайн + онлайн): оценка стоимости трафика на разных передачах.
Модуль оценки мощности расчета трафика(офлайн + онлайн): оценка вычислительной мощности трафика на разных уровнях.
Автономный модуль λ Solver(Не в сети): воспроизводя исторический трафик, используйте алгоритм бинарного поиска, чтобы найти оптимальное значение λ.
Онлайн-модуль принятия решений(Онлайн): Для онлайн-трафика оптимальная передача рассчитывается на основе формулы выбора передачи, и в соответствии с результатами расчета выделяются различные модели и длины очереди.

3.1.3 Оценка стоимости трафика

Оценка стоимости трафика является основой принятия решений по интеллектуальной вычислительной мощности и требует определенной точности. Оценка онлайн-модели увеличит время поиска ссылок.Мы используем автономную оценку модели XGB + онлайн-решение для поиска словаря, которое не только обеспечивает точность оценки, но и является достаточно легким.

Выбор индекса оценки стоимости: Вообще говоря, значение трафика относится к доходу, приносимому текущим трафиком на рекламную платформу; в сценарии рекламы на вынос мы обращаем внимание на доход платформы, а также на доход продавца, поэтому наш индикатор оценки трафика выбирается как $k_1 * доход платформы + k_2 * доход продавца$ .

Как показано на рисунке, модуль оценки стоимости трафика включает в себя два этапа: оффлайн и онлайн.

автономная фаза:

Фильтрация объектов и группировка: Отбор функций и группировка на основе анализа важности и распределения функций в автономном режиме.
обучение модели
- Основная проблема: На раннем этапе мы приняли статистическую схему, в случае большого количества фич бакетов проблема разреженности данных серьезна, и чем больше длина очереди, тем разреженны данные.
- Решение: используйте модель XGB вместо статистической схемы, чтобы повысить способность к обобщению.
сегментированное накопление стоимости: результаты оценки значений различных сегментов функций записываются в словарь в структуре KV.

онлайн сцена:

Извлечение признаков и анализ: Выполните извлечение и анализ функций и сгенерируйте ключевые значения в соответствии с правилами автономной группировки.
оценка первоначальной стоимости: найти значение соответствующего сегмента в соответствии со значением ключа, а затем вычислить запрошенное значение при исходной длине очереди с помощью линейной интерполяции.
Расчетная стоимость снаряжения: Как показано на рисунке ниже, с помощью приблизительного ранжирования можно оценить значение различных передач путем расчета затухания значения на разных передачах.

3.1.4 Оценка вычислительной мощности трафика

Реализация интеллектуальной вычислительной мощности в отрасли в основном основана на эластичных очередях.Как правило, длина очереди используется в качестве индекса оценки вычислительной мощности трафика, а длина очереди как индекс оценки вычислительной мощности трафика сталкивается со следующими двумя проблемами:

проблема общности: В эластичных моделях, эластичных каналах и эластичных ссылках потребление вычислительной мощности трафика не определяется однозначно длиной очереди. Например, трафик из разных источников может следовать разным моделям (потребление вычислительной мощности разных моделей может быть разным). .
проблема точности: В сценарии с рекламой на вынос даже для эластичных действий очереди потребление вычислительной мощности трафика и длина очереди не являются просто линейными.

Выбор показателей оценки вычислительной мощности: Чтобы решить вышеуказанные проблемы, мы используем время ЦП, потребляемое трафиком, в качестве индекса оценки вычислительной мощности трафика.

Как показано на рисунке, оценка вычислительной мощности трафика включает два этапа: оффлайн и онлайн.

автономная фаза:

Фильтрация объектов и группировка: Отбор функций и группировка на основе анализа важности и распределения функций в автономном режиме.
обучение модели
- Процесс обучения: сначала разделите выборки на разные сегменты признаков (длины очередей в одном сегменте разные, а другие признаки одинаковые), а затем подгоните взаимосвязь между вычислительной мощностью и длиной очереди для разных сегментов.
- Основная проблема: из-за неравномерного распределения данных, после того как длина очереди больше определенного порога, из-за разреженности данных, статистическое значение вычислительной мощности в корзине начинает колебаться, что не способствует онлайн-решению. изготовление.
- Чтобы решить проблему разреженных данных и соответствовать реальному бизнесуфеномен распаковки, мы использовалиКусочно-линейная аппроксимацияРешение состоит в том, чтобы согласовать взаимосвязь между вычислительной мощностью и длиной очереди в виде кусочно-линейной функции (рисунок ниже является результатом сопоставления взаимосвязи между вычислительной мощностью и длиной очереди в сегменте функций).

Хранение словаря вычислительной мощности: результаты оценки вычислительной мощности различных сегментов функций записываются в словарь в структуре KV.

онлайн сцена:

Извлечение признаков и анализ: Выполните извлечение и анализ функций и сгенерируйте ключевые значения в соответствии с правилами автономной группировки.
Расчетная вычислительная мощность: Найдите вычислительную мощность соответствующего сегмента в соответствии со значением ключа.

3.1.5 Решение о передаче

1. Автономное решение λ

На основании модулей оценки ценностей и вычисления модулей мощности оптимальный λ решается с использованием двоичного алгоритма поиска, повторная историческая трафика.

Основным этапом автономного решения λ является воспроизведение трафика: путем воспроизведения исторического трафика за тот же период времени, мультиплексирования онлайн-логики, а также моделирования и определения оптимального механизма при текущем λ для каждого запроса.

Основные проблемы и решения

Описание проблемы: автономный трафик большой.После того, как трафик разделен на несколько временных интервалов, процесс решения λ должен выполнять несколько воспроизведений трафика, а сложность моделирования высока.
Решение. Быстро определите оптимальное значение λ с помощью таких решений, как выборка трафика и параллельное решение нескольких временных интервалов.

2. Онлайн-решение о снаряжении

3.2 Гарантия стабильности системы

Благодаря интеллектуальной вычислительной мощности система преобразуется из распределения равной вычислительной мощности в динамическое распределение вычислительной мощности.Чтобы обеспечить стабильность системных служб, мы предоставляем обычные меры, такие как автоматический выключатель и переход на более раннюю версию, а также реализуем функцию ПИД-регулирования в реальном времени. на основе состояния системы.

доступ к трафику: Обеспечьте различные правила доступа к трафику, такие как место для рекламы, город, период времени и т. д., чтобы контролировать трафик интеллектуальной вычислительной мощности.
Мониторинг тревоги: Обеспечивает мониторинг изменений в оборудовании, производительности, вычислительной мощности и пороговых значениях как в параметрах PV, так и в общих параметрах системы.
Слияние понижения: Мониторинг аномалий интеллектуальной вычислительной мощности в режиме реального времени.После достижения настроенного аномального порога интеллектуальная вычислительная мощность будет автоматически объединена и понижена, и будет распределено такое же количество вычислительной мощности.
Асинхронное решение: Чтобы гарантировать, что общее время соединения основного процесса не увеличится, интеллектуальное решение о вычислительной мощности является асинхронным процессом, и после тайм-аута выделяется равная вычислительная мощность.

3.2.2 ПИД-регулирование в реальном времени на основе состояния системы

ПИД (дифференциация пропорциональной интеграции) — это основной алгоритм управления, управляемый пропорциональным, интегральным и дифференциальным.Посредством мониторинга в реальном времени и изменения восприятия состояния системы мы осуществляем управление состоянием системы в реальном времени на основе алгоритма ПИД, чтобы обеспечить стабильность состояния системы.

Состояние системы обычно можно измерить по загрузке ЦП/ГП системы, количеству запросов в секунду, времени отклика (среднее, TP99, TP999 и т. д.), частоте неудачных вызовов (FailRate) и другим показателям.

цель регулирования

В качестве цели регулирования следует выбрать тот показатель, который может наиболее быстро отражать изменение состояния системы, исходя из этого принципа, в качестве цели регулирования были выбраны TP999, FailRate и CpuUtils.

стратегия управления

Основанный на ПИД-регуляторе, он поддерживает различные стратегии управления:

Механизм действия управления: для эластичных очередей можно настроить коэффициент или верхний предел длины очереди, чтобы скорректировать длину очередей-кандидатов.
формула управляющего решения: общее потребление вычислительной мощности системы можно отрегулировать, изменив коэффициент λ в формуле принятия решения.

процесс регулирования

отчет о состоянии системы: Служба механизма доставки сообщает о текущем состоянии системы в режиме реального времени через систему мониторинга и синхронизирует его с MQ.Основные индикаторы имеют своевременность 10 с.
Компонент приобретения: На основе платформы потоковой обработки Flink агрегированные данные о состоянии системы анализируются в режиме реального времени, удаляются шумы и сглаживаются, а обработанные данные записываются в хранилище KV.
регулирующие компоненты: на основе алгоритма PID изменения состояния системы обнаруживаются путем опроса, а вычислительная мощность системы регулируется в режиме реального времени в соответствии с выбранной целью регулирования, а результат регулирования возвращается обратно в компонент принятия решений двигатель доставки для формирования регулируемого замкнутого контура.

После того, как интеллектуальная вычислительная мощность подключена к ПИД-регулятору в реальном времени, когда нагрузка на систему высока, она может быстро, стабильно и эффективно регулировать обратную связь, чтобы поддерживать производительность системы на целевом уровне воды.

4. Эксперимент

4.1 Экспериментальная установка

Выбор вычислительной мощности системы: Чтобы гарантировать, что онлайн-система может быть быстро настроена в соответствии с трафиком в реальном времени в сочетании с характеристиками трафика на вынос, мы выбираем 15 минут в качестве минимальной единицы управления; в реальном сценарии мы выбираем пиковый временной интервал с наибольший трафик и стабильная производительность за последние несколько дней, а также статистика. Общее время ЦП, потребляемое в этом временном интервале, используется в качестве вычислительной мощности системы C.
Выбор базовой линии: выберите в качестве контрольной группы онлайн-трафик без интеллектуальной вычислительной мощности.
Расчетное значение трафика: Выберите трафик за последние дни в качестве обучающих данных, используйте модель XGB для оценки и запишите результаты в словарь.
Расчетная вычислительная мощность трафика: Выберите трафик последних дней в качестве обучающих данных, подгоните изменение вычислительной мощности к длине очереди в виде кусочно-линейной функции и запишите окончательный оценочный результат в словарь.
Автономный λ-решатель: в сценарии на вынос тенденция потока трафика в основном такая же, как и в предыдущем месяце. Воспроизводя трафик вчера, мы вычисляем оптимальное λ в каждом временном интервале дня (15 минут - это временной интервал) в автономном режиме. и сохранить его как словарь.
Экспериментальные идеи: вычислительная мощность системы С, используемая в автономном моделировании, может управлять потреблением вычислительной мощности в онлайне.Поэтому эксперимент с теми же машинными ресурсами или тем же доходом от бизнеса может быть достигнут путем корректировки вычислительной мощности системы С, используемой для автономной решение.

4.2 Эксперимент 1. Ресурсы машин остаются неизменными для повышения доходов бизнеса

	CPM	ROI	CTR	CVR	Ресурсы машины
Baseline(вычислительная мощность системы = C)	+0.00%	+0.00%	+0.00%	+0.00%	+0.00%
Интеллектуальная вычислительная мощность(вычислительная мощность системы = C)	+2.36%	-1.40%	+0.94%	+0.09%	+0.46%

Анализ источников дохода

В часы пик трафик, обеспечивая стабильность системы, может повысить доход бизнеса за счет дифференцированного распределения вычислительной мощности.
В непиковые часы улучшите использование системных ресурсов и преобразуйте простаивающие машинные ресурсы в преимущества для бизнеса.

4.3 Эксперимент 2. Доход от бизнеса не меняется, а машинные ресурсы сокращаются.

	CPM	ROI	CTR	CVR	Ресурсы машины
Baseline(вычислительная мощность системы = C)	+0.00%	+0.00%	+0.00%	+0.00%	+0.00%
Интеллектуальная вычислительная мощность(вычислительная мощность системы = 60% * C)	+0.70%	-1.22%	+0.15%	+0.85%	-40.8%

Анализ источников дохода:

За счет подавления потребления вычислительной мощности в дневной пик и вечерний пик достигается цель сокращения машинных ресурсов. Как видно из рисунка ниже, в часы пик потребление машинных ресурсов экспериментальной группы составляло около 60% от потребления контрольной группы.
В то же время дифференцированная вычислительная мощность распределяется в часы пик, а использование ресурсов улучшается в непиковые часы, чтобы заполнить общий доход бизнеса.

5. Резюме и перспективы

В этой статье в основном представлены идеи мышления и оптимизации интеллектуальной вычислительной мощности в процессе построения рекламы на вынос от 0 до 1 с двух аспектов оптимального решения о передаче и гарантии стабильности системы.

В будущем, с точки зрения алгоритмической стратегии, мы попытаемся смоделировать и решить проблему оптимального распределения вычислительных мощностей в рамках полносвязной комбинации системы, основанной на эволюционных алгоритмах и алгоритмах обучения с подкреплением, Непрерывно оптимизируя способность гарантии стабильности, и попытайтесь объединить с гибкой системой масштабирования компании, чтобы в полной мере использовать большую ценность интеллектуальной вычислительной мощности.

6. Ссылки

[1] Jiang, B., Zhang, P., Chen, R., Luo, X., Yang, Y., Wang, G., ... & Gai, K. (2020). DCAF: A Dynamic Computation Allocation Framework for Online Serving System. arXiv preprint arXiv:2006.09684.

7. Об авторе

Shunhui, Jiahong, Song Wei, Guoliang, Qianlong, Lebin и т. д. — все они из команды Meituan по рекламе на вынос.

8. Информация о наборе

Команда Meituan по рекламным технологиям на вынос постоянно набирает большое количество вакансий.Мы ищем инженеров и экспертов по разработке рекламных фонов/алгоритмов, находящихся в Пекине. Заинтересованные студенты могут присоединиться к нам. Отправьте свое резюме по адресу:maoshunhui@meituan.com(Пожалуйста, укажите тему письма: Meituan Takeaway Advertising Technology Team)

Прочтите другие сборники технических статей от технической команды Meituan

|Ответьте на ключевые слова, такие как [акции 2020 г.], [акции 2019 г.], [акции 2018 г.], [акции 2017 г.] в диалоговом окне строки меню общедоступной учетной записи, и вы сможете просмотреть коллекцию технических статей технической группы Meituan в течение годы.

| Эта статья подготовлена технической командой Meituan, авторские права принадлежат Meituan. Добро пожаловать на перепечатку или использование содержимого этой статьи в некоммерческих целях, таких как обмен и общение, пожалуйста, укажите «Содержимое воспроизводится технической командой Meituan». Эта статья не может быть воспроизведена или использована в коммерческих целях без разрешения. Для любой коммерческой деятельности, пожалуйста, отправьте электронное письмо по адресуtech@meituan.comПодать заявку на авторизацию.