Автор: Джефф Дин, старший научный сотрудник Google, от имени всей команды Google Brain
в целомGoogle AIчасть работы,Мозговая команда GoogleНадеюсь продвигать ИИ вперед с помощью исследований и системной инженерии. существуетЧасть 1 этого сообщения в блоге, мы представили команду в Соответствующая исследовательская работа в 2017 году, от разработки новых алгоритмов и методов машинного обучения до понимания систем машинного обучения и обмена данными, программным и аппаратным обеспечением с сообществом. В этом выпуске мы углубимся в исследования, которые команда проводит в конкретных областях, таких как здравоохранение и робототехника.Мы также представим нашу работу по творчеству, равенству и инклюзивности, а также более подробно рассмотрим нашу культуру.
медицинская страховка
Мы считаем, что потенциал применения технологии машинного обучения в сфере здравоохранения огромен. Мы решаем различные задачи, такие какПомощь патологоанатомам в выявлении рака,Понимание медицинских разговоровпомочь врачам и пациентам, а также использовать машинное обучение для решения различных проблем в области геномики, включаяВысокоточная система идентификации вариантов на основе глубокого обучения.
На основе нашего номера журнала Американской медицинской ассоциации за декабрь 2016 г. (JAMA) Опубликован вНаучно-исследовательские работы, мы продолжаем работу по раннему выявлению диабетической ретинопатии (ДР) и макулярного отека. В 2017 году мы перевели этот проект из фазы исследования в фазу фактического клинического воздействия. мы иVerily(Алфавит
медико-биологической компании), чтобы провести эту работу через процесс регулирования, и вместе мы интегрируем эту технологию вЛинейка офтальмологических камер Nikon Optosсередина. Кроме того, мы активно работаем над развертыванием этой системы в Индии, где не хватает 127 000 офтальмологов, поэтому почти половине пациентов диагноз ставится слишком поздно, когда болезнь уже приводит к потере зрения. В рамках пилотной работы мыГлазная больница АравиндСистема была запущена, чтобы помочь оценщикам лучше диагностировать диабетическое заболевание глаз. Мы также работаем с партнерами, чтобы понять человеческие факторы, влияющие на уход за глазами при диабете, от этнографических исследований пациентов и медицинских работников до офтальмологов и
Обзор того, как взаимодействуют системы ИИ.
Мы также включаемСтэндфордский Университет,Калифорнийский университет, Сан-ФранцискоиЧикагский университетСотрудничество с ведущими организациями здравоохранения и медицинскими центрами, в т.ч.Машинное обучение прогнозирует медицинские результаты на основе анонимных медицинских записей(т. е., основываясь на текущем состоянии пациента, мы считаем, что будущее рассматриваемого пациента можно предсказать, исходя из динамики миллионов других пациентов, и тем самым помочь медицинским работникам принимать более обоснованные решения). Мы очень рады этой работе и с нетерпением ждем
Еще больше хороших новостей, чтобы поделиться с вами в 2018 году.
робот
Наша долгосрочная цель в робототехнике — разработать алгоритмы обучения, которые позволят роботам работать в загроможденной среде реального мира и быстро приобретать новые навыки и способности посредством обучения, а не помещать их в тщательно контролируемую среду и использовать возможности современных роботов. несколько задач ручного программирования, которые вы выполняете. В центре нашей исследовательской работы находится разработка технологий, которые позволяют физическим роботам использовать свой собственный опыт и опыт других роботов для развития новых навыков и способностей, обмена опытом и совместного обучения. Мы все еще изучаем, какСочетание компьютерного моделирования роботизированных задач с опытом работы с физической робототехникой, чтобы быстрее осваивать новые задачи. Хотя физика симулятора не совсем такая же, как в реальном мире, мы заметили, что для роботов опыт симуляции плюс небольшое количество реального опыта приводит к значительно лучшим результатам, чем большой реальный опыт.
В дополнение к реальному опыту робототехники и смоделированной среде робототехники, мы такжеРазработаны роботизированные алгоритмы обучения, способные учиться, наблюдая за человеческими демонстрациями желаемого поведения.. Мы считаем, что такой вид имитационного обучения является очень перспективным методом для быстрого приобретения роботами новых способностей без необходимости явного программирования или указания конкретных целей для деятельности. Например, на видео ниже робот наблюдает за людьми, выполняющими задачи, с разных точек зрения, а затем пытается имитировать их поведение, чтобы Научитесь наливать из чашки за 15 минут реального опыта. Подобно тому, как мы учим нашего собственного трехлетнего ребенка, мы можем поощрять его просто немного проболтаться!
11 В январе мы также совместно подготовили и провели первыйКонференция по обучению роботов(CoRL), собрание исследователей на стыке машинного обучения и робототехники.Сводка действийС дополнительной информацией мы с нетерпением ждем конференции этого года в Цюрихе.
фундаментальная наука
Мы также очень оптимистично оцениваем долгосрочный потенциал применения машинного обучения для решения крупных научных задач. В прошлом году мы использовали нейронные сетиПредсказание молекулярных свойств в квантовой химии,В астрономическом наборе данных обнаружена новая экзопланета, предсказание афтершоков и использованиеАвтоматизированная система доказательства, управляемая глубоким обучением.
творческий подход
Мы очень заинтересованы в том, чтобы машинное обучение можно было использовать в качестве инструмента, помогающего людям в их творческой деятельности. В прошлом году мы создалиИнструмент фортепианного дуэта с искусственным интеллектом, помогая YouTube-музыканту Эндрю Хуангусоздавать новую музыку(смотрите такжеNat & Friendsзакулисное видео) и представляетКак научить машину рисовать.
Мы также показываемКак управлять глубинными генеративными моделями, работающими в браузере, для создания новой музыки. Эта работа имеетЛучшее шоу на NIPS 2017, а также командой BrainПурпурный проектЧлены получают эту награду второй год подряд, и мы находимся в
В 2016 году сInteractive musical improvisation with MagentaполучитьЛучшее шоу на NIPS 2016. В видео на YouTube ниже вы можете прослушать часть демо,MusicVAEМодель вариационного автоэнкодера плавно переключается между двумя мелодиями.
Проект «Люди и исследования ИИ» (ПАИР)
Достижения в области машинного обучения открыли совершенно новые возможности взаимодействия людей с компьютерами. В то же время крайне важно обеспечить, чтобы общество в целом извлекало пользу из технологий, которые мы разрабатываем. Мы рассматриваем эти возможности и вызовы как приоритетные и работаем с Многие люди в Google сотрудничали, чтобы создатьИсследования людей и ИИ (ПАРА)проект.
Цель PAIR — исследовать и разрабатывать наиболее эффективные способы помочь людям взаимодействовать с системами ИИ. мы запустилиоткрытый семинар, который объединяет ученых и практиков из разных областей, включая информатику, дизайн и даже искусство. PAIR фокусируется на различных темах, некоторые из которых мы уже упоминали: попытки объяснить системы машинного обучения, чтобы помочь исследователям понять их, иdeeplearn.jsРасширяйте сообщество разработчиков. Еще одним примером нашего ориентированного на человека подхода к машинному обучению является публикацияFacets, инструмент для визуализации и понимания обучающих наборов данных.
Справедливость и инклюзивность в машинном обучении
Поскольку машинное обучение играет все более важную роль в технологиях, соображения инклюзивности и справедливости становятся все более важными. Мозговая команда иPAIRБыли предприняты усилия для продвижения прогресса в этих областях. Мы опубликовали несколько статей, посвященныхКак избежать дискриминации в системах машинного обучения с помощью причинно-следственной связи,Представление географического разнообразия в открытых наборах данныхважность иАнализ открытых наборов данных для понимания разнообразия и культурных различий. Мы также работаем с межотраслевыми проектамиPartnership on AIТесное сотрудничество для обеспечения справедливости и инклюзивности является целью всех специалистов по машинному обучению.
Вместе с нашими коллегами из Google Creative Labs мы создали видео ниже, чтобы проиллюстрировать некоторые проблемы в этой области с нетехнической точки зрения.
Наша культура
Важным аспектом исследовательской культуры нашей команды является предоставление исследователям и инженерам возможности решать фундаментальные исследовательские вопросы, которые они считают наиболее важными. 9 Луна,Мы опубликовали статью, описывающую общий исследовательский подход команды. Обучение и наставничество молодых людей проходит через нашу исследовательскую работу. В прошлом году в нашей команде было более 100 стажеров, и около 25% наших исследовательских работ 2017 года были написаны стажерами в качестве соавторов. В 2016 году мы запустили студенческую программу Google Brain, чтобы наставлять людей, которые хотят научиться проводить исследования в области машинного обучения. В первый год создания (2016 г. 2017) к нашей команде присоединились 27 стажеров, и мыИтоги полукурсаиОглядываясь спустя годПервый год программы представлен в двух сообщениях в блогах, в которых освещаются исследовательские достижения этих стажеров. Несколько стажеров с первого года программы теперь остались в нашей команде в качестве штатных научных сотрудников и инженеров-исследователей, большинство из которых были отстранены от участия в программах докторантуры Калифорнийского университета в Беркли, Карнеги-Меллона, Стэнфорда, Нью-Йоркского университета и Университета Торонто. научно-исследовательские институты машинного обучения. 2017 В июле 2018 года мы также приветствовали вторую группу из 35 студентов, которые закончат обучение в июле 2018 года иЗавершено интересное исследованиеИ вОпубликованные статьи во многих исследовательских случаях. Теперь мы обновили наши планы по интеграции Различные другие исследовательские группы в Google, переименованные вСтуденческая программа Google AI(Срок подачи заявок на программу этого года истек; посетитеРезиденция a.co/AI…, чтобы увидеть информацию о проектах следующего года).
В 2017 году наша работа вышла далеко за рамки того, что было освещено в этом сообщении в блоге, состоящем из двух частей. Мы стремимся опубликовать наши результаты на ведущих исследовательских форумах, и в прошлом году наша команда опубликовала 140 статей, более 60 из которых вICLR,ICMLиNIPSОпубликован в. Чтобы узнать больше о нашей работе, вы можете прочитать нашНаучно-исследовательские работы.
Вы также можете найти его здесьвидеоПознакомьтесь с некоторыми членами нашей команды здесь или прочитайте нашуr/MachineLearningсекундаAsk Me Anything (AMA)Ответить на сообщение (также не забудьте просмотретьАМА в 2016 году).
Команда Google Brain расширяется, набирая сотрудников в Северной Америке и Европе. Если вы считаете, что наша работа интересна, или хотели бы присоединиться к нам, вы можете воспользоватьсяg.co/brainВоспользуйтесь ссылками в нижней части страницы, чтобы просмотреть наши открытые вакансии и подать заявку на стажировку, программу стажировки в области искусственного интеллекта, приглашенного ученого или исследовательскую или инженерную должность на полный рабочий день. Вы также можете использовать исследовательский блог Google и нашу учетную запись Twitter.@GoogleResearchСледите за нашей работой в 2018 году. Вы также можете следить за моей личной учетной записью Twitter@JeffDean.
Спасибо за чтение!
в целомGoogle AIчасть работы,Мозговая команда GoogleНадеюсь продвигать ИИ вперед с помощью исследований и системной инженерии. существуетЧасть 1 этого сообщения в блоге, мы представили команду в Соответствующая исследовательская работа в 2017 году, от разработки новых алгоритмов и методов машинного обучения до понимания систем машинного обучения и обмена данными, программным и аппаратным обеспечением с сообществом. В этом выпуске мы углубимся в исследования, которые команда проводит в конкретных областях, таких как здравоохранение и робототехника.Мы также представим нашу работу по творчеству, равенству и инклюзивности, а также более подробно рассмотрим нашу культуру.
медицинская страховка
Мы считаем, что потенциал применения технологии машинного обучения в сфере здравоохранения огромен. Мы решаем различные задачи, такие какПомощь патологоанатомам в выявлении рака,Понимание медицинских разговоровпомочь врачам и пациентам, а также использовать машинное обучение для решения различных проблем в области геномики, включаяВысокоточная система идентификации вариантов на основе глубокого обучения.
| биопсия лимфатических узлов, котораяНаш алгоритм правильно определил опухольа не доброкачественные макрофаги. |
| Первый обследованный пациент (вверху) и Иния Парамасивам, обученный оценщик, смотрит на результат системы (внизу). |
робот
Наша долгосрочная цель в робототехнике — разработать алгоритмы обучения, которые позволят роботам работать в загроможденной среде реального мира и быстро приобретать новые навыки и способности посредством обучения, а не помещать их в тщательно контролируемую среду и использовать возможности современных роботов. несколько задач ручного программирования, которые вы выполняете. В центре нашей исследовательской работы находится разработка технологий, которые позволяют физическим роботам использовать свой собственный опыт и опыт других роботов для развития новых навыков и способностей, обмена опытом и совместного обучения. Мы все еще изучаем, какСочетание компьютерного моделирования роботизированных задач с опытом работы с физической робототехникой, чтобы быстрее осваивать новые задачи. Хотя физика симулятора не совсем такая же, как в реальном мире, мы заметили, что для роботов опыт симуляции плюс небольшое количество реального опыта приводит к значительно лучшим результатам, чем большой реальный опыт.
В дополнение к реальному опыту робототехники и смоделированной среде робототехники, мы такжеРазработаны роботизированные алгоритмы обучения, способные учиться, наблюдая за человеческими демонстрациями желаемого поведения.. Мы считаем, что такой вид имитационного обучения является очень перспективным методом для быстрого приобретения роботами новых способностей без необходимости явного программирования или указания конкретных целей для деятельности. Например, на видео ниже робот наблюдает за людьми, выполняющими задачи, с разных точек зрения, а затем пытается имитировать их поведение, чтобы Научитесь наливать из чашки за 15 минут реального опыта. Подобно тому, как мы учим нашего собственного трехлетнего ребенка, мы можем поощрять его просто немного проболтаться!
11 В январе мы также совместно подготовили и провели первыйКонференция по обучению роботов(CoRL), собрание исследователей на стыке машинного обучения и робототехники.Сводка действийС дополнительной информацией мы с нетерпением ждем конференции этого года в Цюрихе.
фундаментальная наука
Мы также очень оптимистично оцениваем долгосрочный потенциал применения машинного обучения для решения крупных научных задач. В прошлом году мы использовали нейронные сетиПредсказание молекулярных свойств в квантовой химии,В астрономическом наборе данных обнаружена новая экзопланета, предсказание афтершоков и использованиеАвтоматизированная система доказательства, управляемая глубоким обучением.
| Нейронная сеть с передачей сообщений может предсказывать квантовые свойства органических молекул |
| Откройте для себя новые экзопланеты: наблюдайте за яркостью звезды, когда планета блокирует ее свет. |
Мы очень заинтересованы в том, чтобы машинное обучение можно было использовать в качестве инструмента, помогающего людям в их творческой деятельности. В прошлом году мы создалиИнструмент фортепианного дуэта с искусственным интеллектом, помогая YouTube-музыканту Эндрю Хуангусоздавать новую музыку(смотрите такжеNat & Friendsзакулисное видео) и представляетКак научить машину рисовать.
| Модель SketchRNNнарисовал сад;здесьПредоставляется интерактивная демонстрация. |
Проект «Люди и исследования ИИ» (ПАИР)
Достижения в области машинного обучения открыли совершенно новые возможности взаимодействия людей с компьютерами. В то же время крайне важно обеспечить, чтобы общество в целом извлекало пользу из технологий, которые мы разрабатываем. Мы рассматриваем эти возможности и вызовы как приоритетные и работаем с Многие люди в Google сотрудничали, чтобы создатьИсследования людей и ИИ (ПАРА)проект.
Цель PAIR — исследовать и разрабатывать наиболее эффективные способы помочь людям взаимодействовать с системами ИИ. мы запустилиоткрытый семинар, который объединяет ученых и практиков из разных областей, включая информатику, дизайн и даже искусство. PAIR фокусируется на различных темах, некоторые из которых мы уже упоминали: попытки объяснить системы машинного обучения, чтобы помочь исследователям понять их, иdeeplearn.jsРасширяйте сообщество разработчиков. Еще одним примером нашего ориентированного на человека подхода к машинному обучению является публикацияFacets, инструмент для визуализации и понимания обучающих наборов данных.
| FacetsМожет предоставить анализ данных в вашем наборе обучающих данных. |
Поскольку машинное обучение играет все более важную роль в технологиях, соображения инклюзивности и справедливости становятся все более важными. Мозговая команда иPAIRБыли предприняты усилия для продвижения прогресса в этих областях. Мы опубликовали несколько статей, посвященныхКак избежать дискриминации в системах машинного обучения с помощью причинно-следственной связи,Представление географического разнообразия в открытых наборах данныхважность иАнализ открытых наборов данных для понимания разнообразия и культурных различий. Мы также работаем с межотраслевыми проектамиPartnership on AIТесное сотрудничество для обеспечения справедливости и инклюзивности является целью всех специалистов по машинному обучению.
|
культурная разницаПоказано в тренировочных данных и даже в обычных предметах, таких как стулья, как мы наблюдали на этих рисунках граффити слева. На диаграмме справа показано, как мы нашли в стандартных наборах данных с открытым исходным кодом, таких как ImageNet.Географический уклон. Такие предубеждения могут серьезно повлиять на поведение модели, если их не обнаружить или не исправить. |
Наша культура
Важным аспектом исследовательской культуры нашей команды является предоставление исследователям и инженерам возможности решать фундаментальные исследовательские вопросы, которые они считают наиболее важными. 9 Луна,Мы опубликовали статью, описывающую общий исследовательский подход команды. Обучение и наставничество молодых людей проходит через нашу исследовательскую работу. В прошлом году в нашей команде было более 100 стажеров, и около 25% наших исследовательских работ 2017 года были написаны стажерами в качестве соавторов. В 2016 году мы запустили студенческую программу Google Brain, чтобы наставлять людей, которые хотят научиться проводить исследования в области машинного обучения. В первый год создания (2016 г. 2017) к нашей команде присоединились 27 стажеров, и мыИтоги полукурсаиОглядываясь спустя годПервый год программы представлен в двух сообщениях в блогах, в которых освещаются исследовательские достижения этих стажеров. Несколько стажеров с первого года программы теперь остались в нашей команде в качестве штатных научных сотрудников и инженеров-исследователей, большинство из которых были отстранены от участия в программах докторантуры Калифорнийского университета в Беркли, Карнеги-Меллона, Стэнфорда, Нью-Йоркского университета и Университета Торонто. научно-исследовательские институты машинного обучения. 2017 В июле 2018 года мы также приветствовали вторую группу из 35 студентов, которые закончат обучение в июле 2018 года иЗавершено интересное исследованиеИ вОпубликованные статьи во многих исследовательских случаях. Теперь мы обновили наши планы по интеграции Различные другие исследовательские группы в Google, переименованные вСтуденческая программа Google AI(Срок подачи заявок на программу этого года истек; посетитеРезиденция a.co/AI…, чтобы увидеть информацию о проектах следующего года).
В 2017 году наша работа вышла далеко за рамки того, что было освещено в этом сообщении в блоге, состоящем из двух частей. Мы стремимся опубликовать наши результаты на ведущих исследовательских форумах, и в прошлом году наша команда опубликовала 140 статей, более 60 из которых вICLR,ICMLиNIPSОпубликован в. Чтобы узнать больше о нашей работе, вы можете прочитать нашНаучно-исследовательские работы.
Вы также можете найти его здесьвидеоПознакомьтесь с некоторыми членами нашей команды здесь или прочитайте нашуr/MachineLearningсекундаAsk Me Anything (AMA)Ответить на сообщение (также не забудьте просмотретьАМА в 2016 году).
Команда Google Brain расширяется, набирая сотрудников в Северной Америке и Европе. Если вы считаете, что наша работа интересна, или хотели бы присоединиться к нам, вы можете воспользоватьсяg.co/brainВоспользуйтесь ссылками в нижней части страницы, чтобы просмотреть наши открытые вакансии и подать заявку на стажировку, программу стажировки в области искусственного интеллекта, приглашенного ученого или исследовательскую или инженерную должность на полный рабочий день. Вы также можете использовать исследовательский блог Google и нашу учетную запись Twitter.@GoogleResearchСледите за нашей работой в 2018 году. Вы также можете следить за моей личной учетной записью Twitter@JeffDean.
Спасибо за чтение!