Эта статья написана [Передовая линия ИИ] Оригинал, исходная ссылка:t.cn/RTHu98h
Редактор | Эмили
Руководство по передовой ИИ: "Несколько дней назад Tencent обнаружила, что система обучения искусственного интеллекта TensorFlow от Google имеет серьезные риски безопасности, которые могут быть использованы хакерами для создания угроз безопасности. Сообщается, что этот риск является первым риском безопасности TensorFlow, и группа предварительных исследований отдела Tencent Security Platform сообщила об этом риске в Google и получила благодарность».
Группа предварительных исследований отдела Tencent Security Platform обнаружила, что злоумышленники могут создавать файлы вредоносных моделей Tensorflow, атаковать исследователей ИИ, а также красть, подделывать или уничтожать собственные приложения ИИ жертв. С одной стороны, стоимость атаки невелика, и атаку могут провести обычные злоумышленники, с другой стороны, это очень запутанно, и большинство исследователей ИИ могут оказаться неподготовленными, в то же время из-за использования собственной технологии TensorFlow. механизм, его можно использовать на ПК. Будут затронуты последние версии ПК и мобильных устройств. Если модель ИИ будет украдена, усилия разработчика будут потеряны, а как только она будет подделана, ИИ выйдет из-под контроля, и последствия будут еще более невообразимыми.
Официальное лицо, отвечающее за Google, заявило, что, учитывая широкое использование TensorFlow в ИИ, на официальном веб-сайте TensorFlow будет создана страница объявлений о безопасности на веб-сайте, как и в наиболее важном программном обеспечении, для своевременного выявления и устранения уязвимостей безопасности.
Понятно, что TensorFlow от Google широко используется в Интернете как платформа с открытым исходным кодом. Согласно официальному представлению, фреймворк используется Google, ebay, airbnb, twitter, uber, Xiaomi, ZTE и другими компаниями. В TensorFlow исследователи ИИ могут повторно использовать модели, созданные другими для обучения ИИ, или напрямую предоставлять услуги ИИ, что значительно повышает эффективность разработки. Эти общедоступные модели обычно предоставляются в задокументированной форме и обычно считаются безвредными. Этот инцидент с безопасностью также заставил разработчиков, обеспокоенных этой областью, быть более бдительными в отношении потенциальных рисков, связанных с платформами с открытым исходным кодом.
Группа предварительного исследования безопасности отдела Tencent Security Platform не только занимается исследованием проблем безопасности в передовых областях искусственного интеллекта, мобильных устройств и Интернета вещей, но также сообщает о многочисленных уязвимостях в системе безопасности Google, Apple, Microsoft, Adobe и другим компаниям. неоднократно получал официальные благодарности. Кроме того, они также проводят исследования по вопросам безопасности дронов, радиоприемников, Интернета вещей и умных зданий. В будущем группа предварительного исследования безопасности отдела Tencent Security Platform также продолжит работу по сопровождению безопасности Интернета и развития технологий.
Следите за нами в WeChat"Передовая линия ИИ", ответьте "AI" в фоновом режиме, чтобы получить серию электронных книг в формате PDF "AI Frontline".