Эта статья была первоначально создана "AI Frontline", оригинальная ссылка:Запрещено использовать дипфейки, см. Распространение приложений TensorFlow.
Дэйв Гершгорн
Переводчик｜Дебра
Редактор | Эмили
Руководство по передовой ИИ:”Технология блокчейн, основанная на одноранговых компьютерных узлах по всему миру, набирает обороты. С применением технологии блокчейн в индустрии развлечений она может разрушить монополию на создание и распространение произведений, заменив централизованных привратников индустрии развлечений одноранговыми сетями, коренным образом подорвать индустрию развлечений и положить конец кабелю. ТВ и Нетфликс. "
В 2015 году Google объявила, что выпустит инструмент TensorFlow для алгоритма искусственного интеллекта собственной разработки. Это шаг, который меняет фундаментальные основы исследований и разработок в области ИИ во всем мире. По словам генерального директора Google, «этот технологический подход, который может оказать такое же глубокое влияние на человеческое общество, как и электричество, будет открытым, простым в использовании и бесплатным».
Но это также означает, что мощность TensorFlow находится вне контроля Google. Чуть более двух лет назад академические круги и Кремниевая долина внесли наибольший вклад в разработку программного обеспечения, но ситуация меняется. Дипфейки подобны катализаторам, взбалтывая все вокруг. Это проект, созданный анонимным пользователем Reddit с программным обеспечением AI, которое автоматически сшивает любое изображение лица в видео (почти) без проблем. Компания Motherboard впервые сообщила о проекте программного обеспечения, которое можно использовать для идеальной пересадки лица любого человека, например, известной актрисы Facebook или друга, на лицо порноактрисы.
С тех пор некоторые пользователи создали свой собственный сабреддит, насчитывающий более 91 000 пользователей. Другой пользователь Reddit с именем deepfakeapp также выпустил инструмент под названием FakeApp, В соответствии с предпосылкой аппаратной защиты все люди, которые загружают это программное обеспечение AI, могут легко начать делать поддельные порновидео самостоятельно. До 7 февраля сообщество Reddit было забанено за нарушение политики сайта в отношении порнографии без согласия.
Согласно руководству пользователя FakeApp, программное обеспечение построено на платформе TensorFlow. Гуглеры первыми начали аналогичную работу с использованием TensorFlow, но с немного другими настройками и темами, обучая алгоритм генерировать изображения с нуля. Дипфейк на самом деле довольно интересный, например, кто-то использовал его, чтобы засунуть Николаса Кейджа в кучу разных фильмов, картинка остроумная и интересная. Однако я должен признать, что 91 000 субреддитов в дипфейках на самом деле подписаны на просмотр порно.
Однако в то время как открытый исходный код TensorFlow дает много преимуществ, таких как потенциальный алгоритм обнаружения рака, распространенность FakeApp представляет собой темную сторону открытого исходного кода. Google (вместе с Microsoft, Amazon и Facebook) самоотверженно дали миру силу технологий, и ничего взамен каждый может скачать программное обеспечение ИИ и использовать его для создания любого набора данных, включая что-либо из поддельных политических речей (с помощью инструменты искусственного интеллекта для имитации голоса), для создания поддельной порнографии. Все цифровые медиа состоят из набора «0» и «1», а искусственный интеллект может «создавать» вещи, которые никогда не существовали, умными способами.
Поскольку программное обеспечение может работать локально на компьютере, крупные технологические компании теряют контроль над программным обеспечением после того, как оно покидает сервер. Кредо открытого исходного кода или, по крайней мере, современное состояние разработки программного обеспечения определяет, что эти компании не могут нести ответственность за то, что другие компании делают с программным обеспечением. Таким образом, он существует как пистолет или сигарета.
И кажется, что нет особых стимулов для его изменения: именно потому, что он делает ИИ доступным для большего числа людей, бесплатное программное обеспечение является довольно прибыльным бизнесом для этих компаний. Каждая крупная технологическая компания борется за как можно больше талантов в области ИИ, и чем больше людей будет работать в этой области, тем лучше. Кроме того, другие разрабатывают проекты с использованием кода, который вдохновляет на создание новых продуктов, а люди за пределами компании могут находить и исправлять ошибки Программное обеспечение используется для обучения студентов бакалавриата и докторантуры новичкам, которые уже понимают инструменты, используемые внутри компании. .
«Люди говорили о больших прорывах в машинном обучении за последние пять лет, но настоящие большие прорывы — это не алгоритмы. Алгоритмы на самом деле не так уж отличаются от алгоритмов 70-х, 80-х и 90-х годов, настоящий прорыв — это открытый исходный код», — AT&T Мазин Гилберт. , вице-президент по передовым технологиям и бывший исследователь машинного обучения, сказал: «Открытый исходный код снижает барьеры для входа и делает алгоритмы менее технологичными, чем IBM, Google и Facebook».
Программное обеспечение с открытым исходным кодом также усложняет этические вопросы при разработке ИИ. Инструменты, предоставляемые Google сегодня, не являются ключом к созданию Скайнет или другого сверхразума, но они все еще могут иметь большое негативное влияние. Такие компании, как Google и Microsoft, которые предоставляют системы искусственного интеллекта с открытым исходным кодом, уже давно заявляют, что искусственный интеллект не является неэтичным, и их штатные ученые подписали обязательство и создали группы, посвященные этой теме. Но эти компании не предоставляют никаких указаний или разрешений пользователям, загружающим их бесплатное программное обеспечение. На веб-сайте TensorFlow есть инструкции по запуску программного обеспечения, но нет заявлений об этичности использования программного обеспечения и инструкций по обеспечению беспристрастности набора данных.
Несколько месяцев назад, когда я спросил Гарри Шама, вице-президента Microsoft по искусственному интеллекту, как компания планирует направлять тех, кто использует программное обеспечение с открытым исходным кодом и платные инструменты для разработчиков, для создания этичных систем машинного обучения, он сказал, что не слишком уверен.
"Это действительно сложно, и я не думаю, что мы можем найти простое решение прямо сейчас, — сказал Шам. — Одна из вещей, которой мы учимся с течением времени, — это попытки найти слепые зоны при разработке алгоритмов машинного обучения". "
Google не ответил на подобные вопросы.
Перенос ИИ из открытого исходного кода также не является идеальным решением. Без информации о программном обеспечении трудно понять, как эти непрозрачные технологические компании разрабатывают свои алгоритмы искусственного интеллекта. Мы можем бесплатно публиковать исследования на таких сайтах, как ArXiv, и делиться исходным кодом на Github, что означает, что журналисты, ученые и специалисты по этике могут выявлять потенциальные проблемы и требовать ответственности. И большинство людей используют наборы инструментов ИИ для продуктивного использования, например, для стандартного распознавания изображений в приложениях или сортировки таких предметов, как огурцы.
Нетрудно представить, что другие типы поддельных видео могут вскоре распространяться через основные платформы, такие как Facebook и Twitter, и закрепиться в этих социальных сетях, и это не за горами. Хотя исследователи ИИ всегда ищут решения, в ближайшее время они их не найдут. Ведь такой софт уже есть.
Поскольку разработчики этой базовой технологии, такие как создатели дипфейков, откажутся брать на себя ответственность, бремя ляжет на платформы для обмена видео и изображениями. Например, Gfycat удалил с сайта все GIF-файлы Deepfakes. Reddit закрыл сообщество дипфейков. Сайт порно-видео PornHub также заявил, что будет удалять такие видео, поскольку считает, что изображение человека было использовано без его согласия. Но deepfakes.club до сих пор не забанен.
Независимо от будущего программного обеспечения для дипфейков, я считаю, что это только начало.
Оригинальная ссылка:Среди них.com/1199850/ ой ой...
Для большего содержания сухих товаров вы можете обратить внимание на AI Frontline, ID:ai-front, фоновый ответ "AI", "TF", "Большие данные«Вы можете получить серию мини-книг и карт навыков «AI Frontline» в формате PDF.