7 мая Heart of the Machine и Huawei Ascend Academy провели открытый онлайн-класс.«Простая в использовании платформа с открытым исходным кодом MindSpore»Урок 5 завершен. Лектор Лю Чжидань предлагает вам поделиться темой «Инструмент оценки надежности модели MindSpore». Видео-обзор урока 5 выглядит следующим образом:
На QA сессии пятого урока некоторые проблемы были широко упомянуты всеми, Лектор Лю Чжидан снова сделал выборку и редактирование для вашего ознакомления.Урок 5 Избранные вопросы и ответы
Q1: Зачем использовать функцию знака?
Q2: Снизится ли точность после добавления алгоритма защиты?
неуверенный. Алгоритм защиты использует метод состязательного обучения для создания состязательных выборок и добавления их к исходному набору данных для совместного обучения модели.Полученные параметры модели немного отличаются от параметров модели исходного набора данных.Эта разница может повлиять на точность на тестовый набор может измениться, он может уменьшиться или увеличиться.
Q3: Как влияет увеличение алгоритма защиты на время обучения?
Разница между состязательным обучением и состязательным обучением заключается в том, что состязательное обучение добавляет этап создания состязательных образцов в обычный процесс обучения модели, поэтому повышенные вычислительные затраты во время обучения связаны с генерацией состязательных образцов.Различные алгоритмы атаки имеют разные временные затраты.Если Используется FGSM Этот простой алгоритм атаки увеличивает время очень незначительно.Если используется более сильный метод атаки, такой как CW, затраты времени будут больше. Какой алгоритм атаки выбрать, зависит от собственных потребностей пользователя, общих затрат времени и требований безопасности, а также от выбора подходящего алгоритма атаки.
Q4: Какое влияние окажет процесс обучения противников на время вывода?
Это не влияет на вывод.После того, как модель обучена, она такая же, как и обычная модель, поэтому время вывода такое же, как время вывода исходной модели.
Q5: Являются ли состязательные примеры, используемые в состязательной подготовке, такими же, как и состязательные примеры, используемые при тестировании после защиты?
Разные. Методы генерации состязательной выборки, используемые при обучении и тестировании, могут быть одинаковыми или разными.
Q6: В чем разница с умными руками?
У MindArmour и Cleverhans одна и та же отправная точка, и обе они проводят исследования по модели безопасности состязательных образцов. С точки зрения предоставляемых функций MindArmour является более комплексным, включая создание состязательных образцов, обнаружение, защиту модели, модули оценки от нападения и защиты, а также модуль для проверки надежности моделей посредством фаззинга.
Если у вас есть дополнительные вопросы в будущем, пожалуйста, обратите внимание на gitee и github MindSpore, отправляйте вопросы в любое время, и официальные сотрудники ответят вам вовремя:
- Гостиница:gitee.com/mindspore
- Гитхаб:GitHub.com/minds пора - ах...
Пятый урок PPT выглядит следующим образом: