Аннотация: эта статья поможет вам понять и распознать концепцию графовой сверточной сети с другой точки зрения.
Эта статья опубликована в сообществе HUAWEI CLOUD.«Технический обзор двенадцать: основные концепции графовых сетей», оригинальный автор: смех очарование.
Концепция фонда
Автор считает, что основная идея графа состоит в том, чтобы изучить функциональную карту f(.)f(.), с помощью этого сопоставления узел в графе может объединять свои собственные признаки с признаками своих соседей, чтобы сгенерировать новое представление признаков для узла.
Рисунок 1. Общий процесс рассуждений для графов [1]
Графические нейронные сети против сверточных нейронных сетей
Как показано на рисунке 2, входные данные сверточной нейронной сети обычно представляют собой данные обычного матричного типа, такие как изображения. Пространственные отношения между каждым узлом и другими узлами фиксированы. Входные данные нейронной сети графа обычно показывают неправильную топологическую структуру, отношения между узлами очень сложны, пространственные отношения между узлами, как правило, не ограничены, есть ли соединения между узлами, и количество соединений не ограничено. Сложные сети также включают в себя такие понятия, как направление соединений и подграфов.
Рисунок 2. Графовые сети и сверточные сети [1]
Как показано на рисунке 3, если каждый узел графа эквивалентно рассматривать как каждый пиксель изображения, фактически рабочий процесс графа можно сравнить с классической задачей CV: семантической сегментацией.
Figure 3. semantic segmentation[2]
Основные компоненты графа и их реализация
В процессе работы с графом необходимо решить две основные проблемы, одна — метод извлечения информации об узлах, другая — метод поиска соседних узлов. Упорядочено следующим образом:
Как искать соседние узлы:
-
Каждый узел учитывает все остальные узлы
-
Основываясь на евклидовом расстоянии, ищите только ближайшие N узлов
Уточнение информации об узле:
-
MLP+Max Pooling напрямую выполняет слияние функций
-
На основе внимания, средневзвешенное значение окружающих узлов
-
обычное внимание
-
Self-attention (Bert/Transformer)
Рисунок 4. Процесс уточнения информации об узлах графа
Суммировать
Наконец, некоторые сравнения сверток графа и сверток организованы на рисунке 5. Мы можем наблюдать некоторые интересные явления.На самом деле, в сверточной сети также есть некоторые работы методов поиска смежных узлов, таких как атрусная свертка и деформируемая свертка.
Рисунок 5. Сравнение работы графовых сетей и сверточных сетей
【использованная литература】
[1] Ву, Зонгхан и др. «Всеобъемлющий обзор графовых нейронных сетей».Транзакции IEEE в нейронных сетях и системах обучения (2020).
[2] Лонг, Джонатан, Эван Шелхамер и Тревор Даррелл, «Полностью сверточные сети для семантической сегментации», Материалы конференции IEEE по компьютерному зрению и распознаванию образов, 2015 г.
Нажмите «Подписаться», чтобы впервые узнать о новых технологиях HUAWEI CLOUD~