Не покидайте экосистему -
Модернизированная защита данных и снижение зависимости от облака могут заблокировать пользователей.
Гетти Изображений
посколькуiPhoneБольшая часть интеллектуальных возможностей смартфонов с момента их создания исходила из других источников: известных какоблачноделовой компьютер. Мобильные приложения отправляют пользовательские данные в облако для выполнения таких полезных задач, как расшифровка речи или предложение ответов на сообщения. в настоящее время,яблокоиGoogleВыражать,смартфонУже достаточно умны, чтобы самостоятельно выполнять некоторые важные и деликатные задачи.машинное обучениеЗадача.
существуетэтот месяцНа конференции Apple WWDC компания заявила, что ее виртуальный помощникSiriБудет транскрибировать речь на определенных языках без облака на ближайших и будущих iPhone и iPad. существуетКонференция разработчиков ввода-вывода в прошлом месяце, Google сказал, что его последняя версияандроидВ операционной системе есть функция, предназначенная для безопасной обработки конфиденциальных данных на устройстве, которая называется частным вычислительным ядром. Его первоначальное использование включает в себя использование версии функции Smart Reply на мобильных клавиатурах компании, которая может отвечать на входящие сообщения.
И Apple, и Google говорят, что машинное обучение на устройстве обеспечивает большую конфиденциальность и более быстрые приложения. Отказ от передачи личных данных снижает риск раскрытия информации и экономит время ожидания передачи данных через Интернет. В то же время хранение данных на устройстве отвечает долгосрочным интересам технологического гиганта по привязке потребителей к своей экосистеме. Люди могут стать более готовыми согласиться поделиться большим количеством данных, узнав, что их данные могут обрабатываться более конфиденциально.
Недавнее стремление компаний к машинному обучению на устройствах произошло после многих лет технической работы по ограничению данных, которые они могут «видеть» в облаке.
В 2014 году Google началс помощью метода, называемого «дифференциальной конфиденциальностью».Собирая некоторые данные об использовании браузера Chrome, технология добавляет шум к собранным данным, чтобы ограничить то, что эти образцы раскрывают людям. Apple использует эту технологию для данных, собранных с телефонов, для информирования о смайликах и подсказках при наборе текста, а также для данных просмотра веб-страниц.
Недавно обе компании приняли метод, называемыйфедеративное обучениеТехнологии. Это позволяет облачной системе машинного обучения вносить обновления, не собирая необработанные данные; вместо этого отдельные устройства обрабатывают данные локально, обмениваясь только обработанными обновлениями. Как и в случае с дифференцированной конфиденциальностью, эти компании обсуждали использование федеративного обучения только в ограниченных обстоятельствах. Google использовал эту технологию, чтобы синхронизировать прогнозы набора текста на мобильных устройствах с языковыми тенденциями; Apple опубликовала отчет с использованием этой технологии.Обновите модель распознавания речиИсследовательская работа.
Рэйчел Каммингс, доцент Колумбийского университета, которая консультировала Apple по вопросам конфиденциальности, сказала, что быстрый переход к машинному обучению на телефонах поразителен. «Очень редко можно увидеть, как что-то проходит путь от начальной концепции до массового развертывания за такой короткий период времени», — сказала она.
Этот прогресс требует не только достижений в области компьютерных наук, но и решения компаниями практических задач по обработке данных на потребительских устройствах. Google заявляет, что его федеративная система обучения работает только тогда, когда устройство пользователя подключено к сети, находится в режиме ожидания и имеет бесплатное подключение к Интернету. Эта технология стала возможной отчасти благодаря увеличению мощности мобильных процессоров.
Более мощное мобильное оборудование также помогает GoogleАнонсировано в 2019 г., распознавание голоса виртуального помощника на его устройствах Pixel будет происходить полностью на устройстве, без облачных вычислений. Новое устройство Apple для распознавания голоса для Siri, анонсированное на WWDC в этом месяце, будет использовать технологию компании.добавил к своему мобильному процессору«Нейронный движок» для улучшения алгоритмов машинного обучения.
Эти технические достижения впечатляют. Но вопрос о том, насколько они существенно изменят отношения пользователей с технологическими гигантами, остается спорным.
Выступавшие на конференции Apple WWDC заявили, что новый дизайн Siri — это «серьезное обновление конфиденциальности», которое устраняет риски, связанные со случайной передачей звука в облако, заявив, что это проблема для пользователей.голосовой помощникСамая большая проблема конфиденциальности. Некоторые команды Siri, такие как установка таймера, могут быть распознаны полностью локально, что позволяет быстро реагировать. Однако во многих случаях команды, записанные для Siri — предположительно, включая команды из случайных записей — будут отправлены на серверы Apple, где программное обеспечение будет декодировать и отвечать. Транскрипция голоса Siri по-прежнему будет облачной для интеллектуальных динамиков HomePod, обычно устанавливаемых в спальнях и на кухнях, и в этом случае случайные записи могут вызывать больше беспокойства.
Google также продвигал обработку данных на устройстве как выигрыш в конфиденциальности и указал, что расширит эту практику. Компания надеется, что такие партнеры, как Samsung, которые используют ее операционную систему Android, возьмут новое вычислительное ядро конфиденциальности и будут использовать его для функций, которые зависят от конфиденциальных данных.
Google также использует локальный анализ данных просмотра в качестве своегоНовое изобретение таргетинга онлайн-рекламыОсобенность предложения,Долженпредположениеизвестный как ФЛОК, и утверждают, что они более приватны. Академия и некоторые конкурирующие технологические компании говорят, что дизайн может помочь Google укрепить свое господство в онлайн-рекламе, что затруднит таргетинг другим компаниям.
Обработка данных на устройстве может быть хорошей вещью, сказал Майкл Вил, лектор по цифровым правам в UCL, но добавил, что способ рекламы технологических компаний показывает, что их основной мотивацией было желание привязать людей к прибыльному центру цифровой экосистемы.
«Конфиденциальность путают с конфиденциальностью данных, но это также и ограничение власти», — сказал Вейл. «Если вы крупная технологическая компания и вам удается изменить конфиденциальность, чтобы просто сохранить конфиденциальность ваших данных, это позволяет вам продолжать вести бизнес в обычном режиме и дает вам лицензию на работу».
Представитель Google сказал, что компания «обеспечивает конфиденциальность везде, где происходят вычисления», и что данные, отправляемые на частные вычислительные ядра, «должны быть привязаны к ценности для пользователя». Apple не ответила на запрос о комментариях.
Каммингс из Columbia сказал, что новые технологии конфиденциальности и то, как компании их продают, усложняют компромиссы в цифровой жизни. С широким распространением машинного обучения в последние годы технологические компании неуклонно расширяют объем данных, которые они собирают и анализируют. Есть свидетельства того, что некоторые потребители неправильно понимают меры защиты конфиденциальности, рекламируемые технологическими гигантами.
Каммингс и его сотрудники из Бостонского университета и Института Макса Планка проводят предстоящее исследование.исследование, представил 675 американцам описания дифференцированной конфиденциальности, полученные от технологических компаний, СМИ и научных кругов. Услышав о технологии, люди в два раза чаще сообщали о своей готовности поделиться своими данными. Но есть свидетельства того, что изображения дифференциальной конфиденциальности также поощряют нереалистичные ожидания. Пятая часть респондентов хочет, чтобы их данные были защищены от обыска правоохранительных органов, а дифференциальная конфиденциальность этого не делает. Последние заявления Apple и Google об обработке данных на устройствах могут открыть новые возможности для недопонимания.
Первоначально эта история появилась в wired.com.