Надо прояснить! Свертка, параметры сепарабельной свертки и расчет FLOP!

глубокое обучение

Предисловие: Уровень ограничен, если есть какие-либо неточности или ошибки, пожалуйста, укажите и исправьте их.

Не волнуйтесь, давайте сначала предположим: количество каналов входных карт объектов, количество каналов вывода и размер ядра свертки (когда длина и ширина одинаковы):

Размер выходных карт объектов:

Давайте сначала посмотрим на выводы:

  • Количество параметров базовой свертки (для простоты формы, без учета смещения):

  • Расчетная сумма базовой свертки (для простоты формы, без учета смещения):

  • Количество параметров сепарабельной свертки (для краткости формы учтем смещение):

  • Расчетная сумма сепарабельной свертки (для простоты формы учтем смещение):


Вы видите взаимосвязь, закон?

1. Расчет параметров

1. Расчет основных параметров свертки:

Независимо от смещения, количество параметров = параметры каждого ядра свертки * количество ядер (количество выходных каналов):

В общем, когда длина и ширина ядра свертки одинаковы:

Примечание. Если рассматривать термин компенсации, то это:

 

 

2. Расчет параметра сепарабельной свертки:

(Картинка выше из Интернета, источник неизвестен, захвачен и удален, 2333...)

Первая часть: свертка каждого канала ввода с одноканальным ядром свертки;

Количество входных каналов (количество ядер свертки) * параметры каждого ядра свертки (канал 1)

 

Часть 2. Преобразование количества входных каналов в количество выходных каналов с помощью свертки 1x1:

Количество выходных каналов (количество ядер свертки) * параметры каждого ядра свертки (канал совпадает с входным каналом):

 

Добавьте две части:

В общем, когда длина и ширина ядра свертки одинаковы:

2. Флопы

Операции с плавающей запятой, операции с плавающей запятой, количество вычислений, сложность модели измерения.

(Обратите внимание, чтобы различать другое понятие FLOPS: операций с плавающей запятой в секунду, которое относится к количеству операций с плавающей запятой в секунду)

 

1. Обычный расчет свертки:

метод расчета ={Рассчитайте значение каждого выходного признака (число на карте признаков), соответствующееоперанд умножения+ Рассчитать соответствующее значение каждого выходного значения функции (число на карте функций)операнд сложения }* количество всех собственных значений

Независимо от смещения термина смещения, операнд сложения имеет -1, что компенсируется из-за +1:

В общем, когда длина и ширина ядра свертки одинаковы:

2. Расчет суммы отделимой свертки:

Метод расчета = сумма расчета первой части (выходной канал не изменился, используется одноканальная свертка C_in) + сумма расчета второй части (с использованием свертки канала 1 * 1)

 

Первая часть = количество умножений и сложений, необходимых для каждой характерной точки * количество характерных точек

Вторая часть = количество умножений и сложений, необходимых для каждой характерной точки * количество характерных точек

В общем, когда длина и ширина ядра свертки одинаковы:


Публичный аккаунт недавно рекомендовал прочитать:\

GAN существует уже 6 лет! Пришло время для инсульта! 

Были загружены сотни документов GAN! С недавним обзором генеративно-состязательных сетей!\

Немного преувеличено, немного искажено! Взгляните на то, как эти GAN преувеличивают и карикатурно изображают лица!\

В небе дождь, а у меня его нет! Как насчет GAN для удаления дождя?\

Исправьте свое лицо! Сможет ли ГАН сделать так, чтобы убийце профиля и свинке Пеппе действительно негде было спрятаться?\

Угасание! ГАН прогнозировать?\

Руошуй три тысячи, только бери свою отметку! Как насчет AL (активного обучения) в сочетании с GAN?\

Обнаружение аномалий, как работает GAN?

Виртуальная переодевание! Взгляните на то, что делают эти последние газеты!\

Миграция макияжа лица! Краткий обзор нескольких статей с использованием GAN

[1] Как насчет генерации GAN на медицинских изображениях?

01-Краткий принцип формулы GAN - Маленькие сокровища в железной броне


GAN&CV группа обмена , будь вы новичок или большой парень, сердечно приглашаем вас присоединиться!\

Обсуждайте и общайтесь вместе! Нажмите и удерживайте заметку [Присоединиться к группе], чтобы присоединиться:

Чтобы больше поделиться, нажмите и удерживайте, чтобы подписаться на эту официальную учетную запись:\