Обсуждение внедрения периферийных ИИ-решений

машинное обучение искусственный интеллект граничные вычисления

Аннотация: В этой статье рассказывается, как реализовать обещанные преимущества периферийного ИИ, и она нацелена на работу сообщества с открытым исходным кодом, инициированную приземлением периферийного ИИ и коммерческим замкнутым циклом.

Эта статья опубликована в сообществе HUAWEI CLOUD.«HUAWEI CLOUD: обсуждение и исследование внедрения периферийных решений искусственного интеллекта», Автор: HUAWEI CLOUD Edge Cloud Innovation Lab (ECIL).

Нет постоянного источника реальных деловых и исследовательских потребностей в промышленности?

Сложно ли получить наборы реальных бизнес-данных и соответствующие алгоритмы?

Требуется ли много времени и усилий для создания периферийной системы искусственного интеллекта промышленного уровня?

Алгоритм черной технологии не может найти целевую сцену приземления?

Это ваш шанс сделать так, чтобы ваш голос был услышан в академических кругах!

Друзья, которые разбираются в искусственном интеллекте Edge, пожалуйста, нажмите на исследовательский портал приземления:Woohoo. Без ограничений. Talent/VJ/No 9RD MTT. …

Появляются тренды в передовых технологиях искусственного интеллекта

Выполнение машинного обучения в облаке — это традиционный и широко известный метод.Основываясь на крупномасштабных вычислительных мощностях на стороне облака, большинство крупных поставщиков облачных платформ уже предоставляют услуги машинного обучения. Однако данные, необходимые для машинного обучения, часто генерируются не напрямую с облачной платформы, а с периферийных устройств, таких как датчики, мобильные телефоны и шлюзы.

С широким использованием и повышением производительности периферийных устройств стало неизбежной тенденцией перенос некоторых задач, связанных с машинным обучением, на периферию, то есть технологию граничного искусственного интеллекта, и даже может сочетать облачные вычислительные мощности и сторонние данные. для выполнения задач машинного обучения. В 2018 году VMware выпустила платформу для расширения облачных сред до периферии. В дополнение к своему облаку Azure Microsoft также инвестирует 5 миллиардов долларов в IoT, потому что «Интернет вещей, наконец, превращается в новое интеллектуальное преимущество». Garner прогнозирует, что к 2022 году 50% корпоративных данных будут создаваться и обрабатываться за пределами традиционных централизованных центров обработки данных или облака по сравнению с менее чем 10% в 2018 году, например, на заводах, в самолетах или на нефтяных платформах, в розничной торговле. магазин или медицинский прибор.

Проблемы передовых технологий искусственного интеллекта

В процессе преобразования данных, сгенерированных на периферии, в знания службы машинного обучения в первую очередь должны быстро реагировать и обрабатывать локально сгенерированные данные на периферии. В процессе внедрения мы обнаружили, что в эпоху пограничного облака, соединяющего массивные пограничные узлы, по мере сокращения расстояния между сервисами ИИ и пограничными пользователями некоторые из первоначальных технических проблем общего ИИ стали более острыми в пограничных сценариях. Здесь представлены четыре задачи:

1. Ограничения ресурсов. По сравнению с дешевыми облачными ресурсами, доступными по запросу, дополнительные ресурсы, включая вычислительное оборудование, оборудование для электропитания, площадь площадки развертывания, среду разработки ИИ и т. д., часто ограничены или разнородны, и процесс инфраструктуры дополнительных услуг должен быть имеет дело с Совместимость с различными ситуациями, затраты на строительство и техническое обслуживание выше.

2. Хранилища данных. На границе существует естественное географическое распределение. Когда алгоритмы ИИ применяются в промышленности, они часто сталкиваются с такими проблемами, как совместное использование данных, защита конфиденциальности данных и даже узкие места в сети.В результате наборы данных естественным образом разделены географически, и алгоритмы ИИ не могут эффективно и точно совместно использовать данные каждого краевой узел. В традиционном режиме централизованного ИИ производительность различных систем ИИ (в том числе скорость сходимости, объем передачи данных, точность модели и т. д.) ухудшается в пограничных сценариях.

3. Небольшая выборка: одно ребро обычно имеет только небольшое количество выборок, особенно на начальном этапе запуска побочной службы, обычно возникает проблема холодного запуска. В то же время также сложно маркировать большое количество неструктурированных образцов на стороне, а количество меченых образцов невелико. Это приводит к неспособности или низкой точности традиционных методов статистического машинного обучения, основанных на больших данных.

4. Неоднородность данных: в наборе данных имеются различные функции, модели или распределения аннотаций, которые напрямую приводят к большой разнице между статистическим распределением краевых тестовых выборок и обучающего набора (также называемого не-IID или OOD), который делает общую модель ИИ на разных краях.Производительность различных сценариев значительно ухудшается. Для одного и того же арендатора многие предприятия часто приводят к сложным и разнообразным алгоритмам и данным с разными входными и выходными данными (также известными как алгоритмы с длинным хвостом или данные с длинным хвостом).Унифицированные компромиссы для достижения эффективного планирования ресурсов.

В качестве примера возьмем рекомендуемый сценарий построения энергосберегающих параметров кондиционирования воздуха:

1. Описание: чиллер имеет несколько наборов регулируемых параметров.Ключом к экономии энергии является прогнозирование коэффициента энергоэффективности чиллера при различных комбинациях параметров и рекомендация наиболее энергосберегающей конфигурации параметров, соответствующей условиям охлаждения.

2. Требования к пограничной аналитике:

а) Когда новая система парковки активирована, она должна иметь возможность бокового холодного запуска для обеспечения быстрой доставки;

b) локальная настройка и автоматический замкнутый цикл кампусной системы: пограничная облачная служба собирает данные в режиме онлайн, а модель продолжает повторяться;

c) Офлайн-автономия интеллектуальных сервисов для кампусного оборудования

3. Технические проблемы:

а) Ограниченные ресурсы: Возможности хранения и обработки данных оборудования на стороне кампуса ограничены.При поддержке нескольких системных сервисов и сервисов машинного обучения их легко заморозить, а локальные данные можно хранить только в течение нескольких месяцев.

б) Бункеры данных: одни и те же арендаторы не общаются друг с другом в разных зданиях и даже энергосистемах.

c) Небольшая выборка: новая система кампуса активирована, и для накопления данных требуется время. Невозможно выполнить выборку для всех комбинаций параметров при всех условиях холодной машины.

г) Неоднородность данных: модели оборудования в разных кампусах сильно различаются, единой общей модели не существует. Под влиянием условий работы, жизни и т. д. модель будет постепенно меняться по мере использования.

С точки зрения сервисного приложения текущий пограничный ИИ имеет следующие характеристики:

В сценариях мультимедийной индустрии, основанных на взаимодействии человека с компьютером, таких как дополненная и виртуальная реальность, интерактивная прямая трансляция и видеонаблюдение, неструктурированные данные являются основой. К неструктурированным данным относятся данные, которые трудно преобразовать в числовые значения или унифицированные форматы для информационных систем для выполнения семантического анализа, такие как изображения, тексты и т. д., которые обычно обрабатываются непосредственно людьми. В основном с использованием метода глубокой нейронной сети. Самая важная часть из четырех проблем заключается в том, что из-за большого объема немаркированных данных количество помеченных образцов невелико, а непропорциональные побочные ресурсы в сложных системах ограничены.

В промышленности, энергетике, финансах и других отраслевых сценариях, основанных на традиционных электронных информационных системах, структурированные данные являются основой. Структурированные данные относятся к числовым данным или данным в унифицированном формате, которые облегчают семантический анализ информационной системой, например таблицы базы данных и т. д., которые могут обрабатываться непосредственно информационной системой. Он в основном использует алгоритмы машинного обучения, которые не являются глубокими нейронными сетями, а его методы моделирования алгоритмов разнообразны и очень актуальны для бизнеса. Наиболее важными частями четырех проблем являются небольшие выборки на стороне, островки данных по сторонам, а также надежность обслуживания и даже интерпретируемость в разнородных данных.

Сообщество KubeEdge уделяет пристальное внимание проблемам, связанным с периферийным ИИ. KubeEdge — это первая в отрасли платформа для облачных граничных вычислений и единственный проект с открытым исходным кодом для граничных вычислений на уровне инкубатора в рамках Cloud Native Computing Foundation. У KubeEdge более 800 участников и более 60 организаций по всему миру, с 4,5 тыс.+ звезд и 1,3 тыс.+ вилок на Github. Являясь единственной специальной группой ИИ в KubeEdge,SIG сообщества KubeEdgeИИ стремится улучшить работу приложений ИИ на периферии, уделяя особое внимание обсуждению технологий ИИ на периферии, определениям API, эталонным архитектурам и реализациям с открытым исходным кодом. В ответ на четыре вышеупомянутые проблемы Sedna, периферийная интеллектуальная платформа, и ее функции совместного мышления, федеративного обучения, дополнительного обучения и обучения на протяжении всей жизни в периферийных облаках были открыты.

Исследовать проблемы с посадкой

В настоящее время полным ходом идет реализация планов различных команд в научных кругах и промышленности и процесс трансформации результатов в промышленность. Многие команды столкнулись с различными трудностями, такими как трудности с получением наборов данных, общие решения, которые не подходят для конкретных предприятий, и отсутствие историй успеха в бизнесе. Одних только технологий недостаточно для завершения посадки и промышленной трансформации.

Теперь, чтобы позволить большему количеству друзей в области периферийного ИИ быстрее, эффективнее и результативнее проводить технологические исследования и разработки, а также коммерческий замкнутый цикл,Мы готовы запустить опрос о проблеме приземления,И в сочетании с последними технологическими тенденциями, которые беспокоят отрасльОптимизация контента сообщества, и, наконец, соберите всю мощь сообщества открытого исходного кода для периферийной аналитики.Разработчик алгоритмов,развертыватель службы,маркетологТри роли предоставляют ресурсы и поддержку платформы. Сообщество соберет различных поставщиков и разработчиков из более чем 30 подразделений SIG AI, чтобы предоставитьНабор данных с открытым исходным кодом,Алгоритмы предварительной обработки и функций с открытым исходным кодом,а такжеКрайне необходимый ресурс в отрасли, такой как инструменты искусственного интеллекта., чтобы принести вам прожорливый праздник с открытым исходным кодом.

Как сообщество, которое верит в культуру открытого исходного кода, мы всегда подчеркиваем:Best ideas win", развитие области не является исключением. Чтобы сделать более конкурентоспособное и креативное предложение, мы надеемся понять, что каждый друг, который обращает внимание на открытый исходный код и периферийную аналитику, сталкивался с трудностями при внедрении решений, связанных с периферийным ИИ. , а затем выберите «Лучшая идея». Контент сообщества оптимизирован для представления экологии сообщества совместного использования ресурсов, отражающей дух открытого исходного кода и открытости.

Если вы столкнулись с проблемами при внедрении периферийного ИИ и если вы готовы внести свой вклад в развитие технологии и отрасли граничного ИИ, вы можете пожаловаться в этой анкете! Ваше мнение очень важно для оптимизации сообщества открытого исходного кода Tucao - это сила! Пожалуйста, нажмите на портал опроса о проблеме посадки искусственного интеллекта и отправьте свой ответ:Woohoo. Без ограничений. Talent/VJ/No 9RD MTT. …. Эта анкета предполагает множественный выбор ответов и занимает около 3-5 минут.

После заполнения и отправки анкеты:

1. После завершения опроса будет собран отчет об опросе, и каждая команда получит более глубокое понимание трудностей, возникающих при внедрении периферийных решений искусственного интеллекта и трансформации отрасли. Сообщество KubeEdge SIG AI также будет продолжать помогать решать связанные с этим трудности на основе исследовательского отчета, иметь возможность превратить кризис в возможность и действительно преобразовать технологии в производительность;

2. Примите участие в анкетном опросе и получите возможность получить в качестве сувенира передовые книги по передовой индустрии искусственного интеллекта (всего 30 экземпляров, равные вклады в порядке очереди)

Отличные комментарии: Отберем лучшие отзывы в бланке ответов для выдачи сувениров (до 10 экземпляров);

Активная раскрутка: перекинуть 5 сообществ, поставить более 10 лайков в Моментах и ​​т.д. и зафиксировать их в ассистенте сообщества (QR код выше), активным промоутерам выдадим сувениры (до 10 экземпляров);

Активное участие: заполните анкету и оставьте адрес электронной почты, мы случайным образом выберем участников анкеты для раздачи всех оставшихся сувениров;

边缘AI领域相关前沿书籍

Книги Frontier, связанные с Edge AI

Отсканируйте QR-код, отправьте пароль «KubeEdge SIG AI», чтобы присоединиться к группе обсуждения, получить последние достижения SIG AI, технические галантерейные товары

Сообщество KubeEdge SIG AI благодарит Huawei, Китайский научно-исследовательский институт телекоммуникаций, Prosperity Technology, Харбинский технологический институт, Наньянский технологический университет, Чжуншаньский университет, Китайский технологический университет, Пекинский университет Цзяотун, Гонконгский политехнический университет, Уханьский университет, Шанхайский университет Цзяотун, Китайский университет наук и технологий и другим членам сообщества за их усилия в процессе разработки анкеты!

(Крайний срок исследования: 23:59 30 октября 2021 г.)

Нажмите «Подписаться», чтобы впервые узнать о новых технологиях HUAWEI CLOUD~