Фейфей Ли недавно принял участие в подкасте "Exponential View", подготовленном "Harvard Business Review". В качестве гостя он дал интервью Азиму Ажару, представителю технологических СМИ. Он представил недавнее исследование HAI Lab в области медицинского ИИ и обсудил искусственный интеллект. интеллект Интеллект в частной жизни, морально-этические вопросы.
Фейфей Ли, профессор компьютерных наук Стэнфордского университета, академик Национальной инженерной академии и признанная богиня индустрии, недавно стала гостьей подкаста Exponential View.
Подкаст Exponential View — это подкаст на тему технологий от медийной личности Азима Ажара и Harvard Business Review.
Недавними гостями подкаста стали президент Эстонии Керсти Кальюлайд, президент Microsoft Брэд Смит, генеральный директор Nasdaq Адена Фридман и другие, активно продвигающие технологию блокчейна в Китае.
Ли Фейфей и ведущий Азим Ажар провели углубленные обсуждения технологий и приложений ИИ, от видения ИИ до текущего процесса сосредоточения внимания на медицинском обслуживании ИИ, до конфиденциальности и этических проблем, с которыми сталкивается технология ИИ.
30 минут общения, галантереи действительно много. Давайте посмотрим, о чем в последнее время думает богиня ИИ и как она смотрит на горячие вопросы технологии искусственного интеллекта.
Следующее слишком длинное, чтобы читать:
1. Технология искусственного интеллекта может помочь пожилым людям вести более независимую и здоровую жизнь и выявлять ранние признаки заражения COVID-19.
Использование технологии интеллектуальных датчиков на основе ИИ может эффективно снизить уровень заражения и смертности от COVID-19 среди пожилых людей.
Используя бесконтактные датчики, такие как датчики глубины и термодатчики, можно измерять температуру тела и отслеживать изменения в пожилом возрасте моделей питания, поведения в туалете, режима сна и т. д., а также раннее выявление одиночества, слабоумия и т. д. .
2. В то время как технологии развиваются, необходимо принимать во внимание уважение и защиту конфиденциальности.
Каждый шаг технологического развития, особенно технологий, ориентированных на человека, требует соблюдения конфиденциальности, уважения и достоинства. Даже если это принесет больше трудностей и вызовов технологиям, оно не может игнорировать многие человеческие факторы.
3. Познакомьте учащихся с жизнью до того, как они изучат код и алгоритмы.
В первые дни развития технологий ИИ технологи не учитывали влияние быстрого развития технологий на современное человеческое общество.
Основываясь на историческом опыте, Ли Фейфэй считает, что в будущем технологии и человеческий фактор должны быть более тесно связаны. Например, в дизайне курсов Stanford HAI интегрированы как естественные, так и гуманитарные науки, в том числе курсы с чисто техническим содержанием, а также принципы ИИ, политика алгоритмов и этика.
4. Машинные ценности отражают человеческие ценности, поэтому люди несут моральную ответственность
Ценности машины — это отображение ценностей человека. Разработка и применение технологий зависят от людей, поэтому люди несут моральную ответственность. Технологи должны смотреть на проблемы с точки зрения всех заинтересованных сторон, а не только своей собственной, чтобы устранить техническую предвзятость.
5. Рождение ImageNet: правильный метод и путь
ImageNet оказал огромное влияние не только на компьютерное зрение, но и на всю область искусственного интеллекта. Ли Фейфей сказал, что рождение ImageNet связано с правильным определением командой метода и ключевого пути на основе существующих исследований того времени.
6. Появление AGI (сильного искусственного интеллекта) происходит естественным образом и продвигает друг друга вместе с людьми.
Сильный искусственный интеллект требовал этого с момента рождения ИИ, поэтому его появление происходит естественным образом. Чтобы предотвратить ограничение ОИИ рамками человеческого интеллекта, ученым следует разрешить предпринимать более смелые попытки, постоянно вводить новшества, чтобы преодолеть собственные ограничения, а также продвигать и вдохновлять друг друга с помощью ОИИ для достижения двустороннего развития.
Мы перевели и систематизировали содержание этого подкаста, и ниже представлена полная версия.
Ли Фейфей: Эпидемия заставила меня использовать ИИ, чтобы помогать и защищать пожилых людей
Азим Азхар: Привет, меня зовут Азим Азхар, и вы слушаете подкаст Exponential Views.
Доктор Фейфей Ли — известный исследователь в области искусственного интеллекта, в настоящее время он является первым профессором кафедры компьютерных наук Sequoia в Стэнфордском университете и содиректором Института искусственного интеллекта, ориентированного на человека (HAI). Она наиболее известна тем, что запустила проект ImageNet.
Я считаю, что ImageNet была одним из катализаторов и движущих сил бума в исследованиях и применении инвестиций в области ИИ за последние восемь лет.
Ранее в этом году она была избрана в Национальную инженерную академию, что является одной из самых высоких профессиональных наград в ее области. Фейфей, я рад видеть вас здесь сегодня, спасибо, что нашли время.
Li Feifei: Спасибо, очень взволнован, мне также очень нравится ваше шоу.
Азим Азар:Я в Лондоне, где ты? Сейчас мы не можем выйти из-за карантина.
Фейфей Ли: Я учусь в Стэнфордском университете. Да, мы все «заперты» и очень скучаем каждый день по работе с молодежью.
Азим Азар:Мы знаем, что ваша исследовательская лаборатория построена на основе машинного обучения и искусственного интеллекта. Некоторые из этих навыков кажутся очень важными для борьбы с болезнью COVID-19 и некоторыми ее последствиями. Как ваша лаборатория была вовлечена в это?
Фейфей Ли: На самом деле, еще восемь лет назад мы поняли, что компьютерное зрение, интеллектуальные датчики и устройства вступили в стадию, когда мы можем начать решать некоторые реальные проблемы, особенно проблемы здравоохранения, которые меня очень интересуют.
следовательно,Мы экспериментировали с некоторыми исследованиями бесконтактных датчиков,Попытайтесь понять человеческое поведение по отношению к клиническим исходам.
Одной из основных областей, которая привлекла наше внимание, является старение населения мира.Как мы можем помочь пожилым людям жить более независимой и здоровой жизнью?Таким образом, наше исследование касается как клинической, так и семейной поддержки.
В частности, такие как измерение температуры тела, изменения в привычках питания и посещения туалета, режим сна, одиночество, раннее выявление деменции и многое другое.
Поэтому, когда разразилась вспышка COVID-19, я рано заметил проблемы с уходом за пожилыми людьми. Поскольку у меня двое пожилых родителей, я тоже беспокоюсь о них.
Судя по статистике, мы с ужасом видим, что люди, живущие в одиночестве, более уязвимы и умирают, потому что они не только более уязвимы с точки зрения иммунной системы, но и у большинства из них есть сопутствующие заболевания, на которые они влияют. в клинику к врачу.
Мы задались вопросом, можем ли мы ускорить эту технологию и внедрить ее в дома и сообщества пожилых людей, чтобы, с одной стороны, мы могли помочь раннему выявлению COVID-19, например, изменениям температуры тела, признакам инфекции.
Азим Ажар: Так над каким датчиком вы работаете? Какие данные нужны для этой работы?
Фейфей Ли: В настоящее время мы используем и тестируем два типа датчиков.
Один датчик глубины,Например, мы используем такой датчик, когда играем в видеоигры XBox. Ему не нужно видеть игрока, чтобы получить информацию о расстоянии.
Второй — термодатчик.Исследование заключается в изменении температуры или поведении. Если вы сидите на диване в течение длительного периода времени без физических упражнений, ваша частота приема пищи и потребление жидкости переходят в спящий режим, который может обнаружить датчик.
Компромиссы между технологическими разработками и заботой о конфиденциальности
Азим Ажар: Я видел подобные проекты, например, людям нравятся камеры высокой четкости, высокое разрешение которых позволяет людям видеть тонкие выражения лиц.
Однако с появлением этой технологии высокой четкости она может стать навязчивой и потенциально неправомерной. Какие параметры вам нужны в ваших исследованиях датчиков?
Фейфей Ли: Любой датчик, который мы изучаем, будет иметь дело с вопросами конфиденциальности и уважения к людям.Мы работаем со специалистами по этике и юристами для изучения вопросов конфиденциальности.
Из соображений конфиденциальности датчики глубины теряют данные и высокоточные данные затенения пикселей с высоким разрешением. Итак, как нам решить эту проблему?
Наша лаборатория проводит исследования компьютерного зрения, чтобы понять детали позы человека без данных камеры RGB HD.
Азим Ажар: Есть ли компромисс между достоверностью и качеством данных, которые вы можете получить, и вторжением в частную жизнь? Является ли это необходимым компромиссом? Это базовая аксиоматическая система компромиссов?
Фейфей Ли: Хороший вопрос. Я думаю, что всегда будут соображения.
Каждый шаг нашего технологического развития, особенно технологий, ориентированных на человека,Конфиденциальность, уважение и достоинство не должны быть второстепенными. Итак, с этой точки зрения мы пойдем на компромисс. Если мы не можем использовать определенную информацию, это создает больше проблем и больше возможностей для технологий.
Ли Фейфэй: Мои ученики должны понимать технологии и сцены
Азим Ажар: В настоящее время вы работаете в HAI, Стэнфордском институте искусственного интеллекта, ориентированном на человека.Можете ли вы рассказать нам, чем исследовательский институт ИИ отличается от команды, в которой вы работали раньше, или других более традиционных институтов ИИ?
Фейфей Ли: Что меня здесь волнует, так это амбиции, заложенные в наших генах с самого начала.Это сделать наш институт (HAI) настоящим междисциплинарным научно-образовательным учреждением.
Наши соучредители представляют различные области, включая информатику, философию, экономику, право, этику, медицину и многое другое. Двадцать лет назад, когда я был докторантом, мне и в голову не могло прийти, что мое любопытство станет движущей силой будущих изменений в гуманитарных науках и обществе.
Поэтому, когда я это осознал, я лично ощутил огромное чувство ответственности.
Азим Ажар: В научных и инженерных лабораториях, особенно в компьютерных науках, всегда существовало несоответствие между ними и тем, что характеризует людей. Как бы вы объяснили некоторые последствия этого несоответствия?
Ли Фейфэй: Говоря об этом, это также процесс моего личного роста. Я помню, как в 2000 году, когда я был аспирантом первого года обучения в Калифорнийском технологическом институте, первой исследовательской работой, которую я прочитал, была основополагающая статья по распознаванию лиц.
Мой советник сказал, что эта статья — отличный документ по машинному обучению. Он демонстрирует распознавание лиц в реальном времени с использованием очень медленного процессора.
Оглядываясь назад, когда мои консультанты и однокурсники закончили читать диссертацию, я понимаю, что никто, даже я, никогда не задумывался о том, какое это имеет отношение к частной жизни человека.
Это показывает, что при разработке этих технологий это не учитывалось на ранних этапах.Но я не рассматривал это в прошлом, это моя проблема?Возможно нет.
Мы никогда не мечтали о влиянии этой технологии, но сегодня мы видим последствия.
Азим Ажар: Да, это очень важное наблюдение. Это напоминает мне известную речь 1959 года С. П. Сноу (британский ученый и писатель) под названием «Две культуры».
Как много средний ученый знает о Шекспире, сказал он, и при этом ничего не знает о втором законе термодинамики. А ученые, знающие второй закон или термодинамику, ничего не знают о Шекспире. Без общих знаний мы не можем мыслить разумно.
Сегодня вы, кажется, строите мост между этими двумя культурами.
Фейфей Ли: Для меня это двойная спираль,Мы считаем, что следующее поколение студентов должно быть "двуязычным" - технологии и гуманитарные науки, оба предмета.
Одна из вещей, которые в последние несколько лет выделялись для меня в Силиконовой долине, это то, что молодые технологи говорили мне, что они не получили такого образования.
Когда они сейчас слышат в новостях или даже видят продукты, произведенные их собственными компаниями, они приходят в ужас, когда сталкиваются с этими проблемами, влияющими на человека. Они даже не знают, как подумать о том, какова их роль и как сделать мир лучше.
Азим Ажар: Мой опыт таков,Старайтесь думать о студентах не как об исследователях, а как о менеджерах по продукту, разработчиках и предпринимателях.
Я хотел бы представить вам, что у HAI есть несколько курсов, которые действительно очень научны. Примеры включают графы знаний, теоретическую нейронауку, машинное обучение и причинно-следственный вывод. С другой стороны, есть политика алгоритмов, этики, государственной политики, технологических изменений, цифрового гражданского общества, разработки искусственного интеллекта для повышения благосостояния людей.
Итак, мне любопытно, какие новаторские способы у вас есть для объединения этих двух несовместимых предметных областей?
Фейфей Ли: Большинство моих студентов — магистры и аспиранты, занимающиеся компьютерными науками. Когда они присоединяются к нашей медицинской команде ИИ, есть только одно основное требование —Прежде чем обсуждать коды и алгоритмы, интегрируйте их в повседневную жизнь медицинского персонала.
Им нужно посещать отделения интенсивной терапии, палаты, операционные и даже дома медицинских работников/пациентов, узнавать об образе жизни этих людей и лично общаться с их семьями.
Итак, это всего лишь небольшой пример. Но HAI делает это всеми возможными способами.
Является ли технология нейтральной?
Азим Ажар: Я слышал о двух категориях, некоторые люди говорят, что технология этически нейтральна, это как планета, вращающаяся вокруг звезды.
Но другие говорят, что технология в некотором смысле зависит от пути, развивается в рамках определенных структур и подверженностей, предубеждений, привилегий и точек зрения. Так что технология никогда не бывает нейтральной.
Какое из этих двух мнений вы считаете более правильным?
Фейфей Ли: Значит, звезды создаются не людьми, а технологиями.
Поэтому я верю, что есть поговорка:Не существует независимой машинной стоимости. Ценность машин равна ценности людей.Законы науки имеют свою логику и красоту без человеческих предубеждений. Но изобретение и инновации технологий, а также их применение очень зависят от людей, и мы все несем эту моральную ответственность.
Азим Ажар: Например, когда вы создавали этот институт, у вас был опыт работы в Стэнфорде, и вы сами являетесь мультикультурным человеком, так что вы думаете об этих образованиях, таких как Стэнфорд?
Ли Feifei: Я хочу сказать, что это все еще чувство ответственности. С первых дней руководства Стэнфорда мы осознали важность подотчетности.
Вот почему у HAI так много поддержки. Потому что мы трезво осознаем,Наша роль заключается не только в том, чтобы внедрять инновации в технологии, но и в том, чтобы использовать технологии для обеспечения процветания человеческого общества., включая искусство, музыку и гуманитарные науки, а также социальные науки, медицину, образование и многое другое.
ImageNet: революция в распознавании изображений
Азим Ажар: Расскажите еще раз о вашем проекте ImageNet. Я думаю, что это имеет решающее значение для нынешнего бума инвестиций и внедрения ИИ. ImageNet — это напоминание о важности данных для развития ИИ. Вы когда-нибудь думали, что это могло быть влиянием, когда вы начали делать это в 2006 году?
Фейфей Ли: Я думаю, что процесс завершения проекта ImageNet меня больше волнует.Как и у большинства других ученых, у меня есть стремление и любопытство к знаниям, а не только к тому, какое влияние окажут идеи, которые мы предлагаем.
Азим Ажар: Это потрясающе. По сути, вы делаете много тяжелой работы по классификации изображений, чтобы создать чистый набор данных, к которому люди могут применять свои алгоритмы.
А в годы, предшествовавшие 2012 году, когда в стартапы ИИ ежегодно инвестировалось около 300 миллионов долларов, ImageNet оказала огромное влияние на ландшафт стартапов ИИ.
Фейфей Ли: Прежде всего, мне стыдно получать эти похвалы, и спасибо за то, что вы отдали должное ImageNet, я думаю, что история и время в конечном итоге оценят наш вклад, но мы гордимся своей работой.
Азим Ажар: Оглядываясь назад на развитие технологии распознавания изображений в 2011 и 2012 годах, можно сказать, что она гораздо менее эффективна, чем наша сегодняшняя система распознавания изображений. Теперь, как ученый в этой области, как вы интерпретируете изменения, произошедшие за эти годы?
Ли Фейфей:ImageNet родился из этого желания «полностью изменить распознавание изображений».Идеи, которые мы предлагали в то время, мало чем отличались от многих научных открытий Мы очень надеялись построить NorthStar, который действительно мог бы продвинуть исследования визуального интеллекта, чтобы мы могли определить, как решить крупномасштабную классификацию объектов и решить эту проблему. проблема. .
Мы действительно успешно нашли это решение.Конечно, мы тоже стоим на плечах гигантов, и мы не придумали это решение на пустом месте. Это связано с первыми тремя десятилетиями исследований в области когнитивной нейробиологии и компьютерного зрения.
Искусственный общий интеллект (AGI) глазами Ли Фейфей
Азим Ажар: В последнее время для широкой публики и средств массовой информации часто упоминается искусственный общий интеллект или сильный искусственный интеллект.Что для вас значит ОИИ?
Фейфей Ли: Когда я впервые прочитал «Могут ли машины думать» Тьюринга, основателя искусственного интеллекта, концепция сильного искусственного интеллекта с ОИИ также была востребована с момента рождения искусственного интеллекта.Поэтому я считаю рождение сильного искусственного интеллекта естественным.
Азим Ажар: Мне любопытно,Когда мы думаем о сильном искусственном интеллекте AGI, не попадемся ли мы в ловушку антропоцентризма?Например, первая заключается в том, что мы реализуем искусственный интеллект с помощью инженерии; вторая заключается в том, что мы подталкиваем машину к пониманию наших правил, что приводит к границе машинного интеллекта, которая на самом деле является границей человеческого интеллекта.
Ли Фейфэй: Итак, я думаю, что ученым следует разрешить предпринимать более смелые попытки. Когда Ньютон смотрел на звезды, люди еще не пользовались электричеством, но мы должны уважать все усилия в историческом процессе.
Что меня еще больше волнует с точки зрения человеческого интеллекта, так это то,Наша работа объединяет искусственный интеллект, науку о мозге и когнитивную науку.Итак, один из трех принципов нашего HAI в Стэнфорде: Вдохновляйте интеллект через людей. Эти разработки также идут в обоих направлениях, поскольку мы углубляем наше понимание человеческого познания и человеческого мозга и узнаем от них больше, чтобы продвигать наше развитие искусственного интеллекта.
Азим Ажар: Алгоритмы могут делать гораздо больше, чем люди, но это еще только начало. Когда вы заглянете через 15, 20, 30 лет, как вы думаете, какими будут возможности принятия решений у наших систем ИИ?
Фейфей Ли: Прежде всего, интерес к науке является движущей силой для нас, чтобы продолжать способствовать созданию инновационных интеллектуальных машин. Если мы хотим приблизить машинный интеллект к человеческому, то мы, люди, обладаем человеческой природой и можем помочь машинам лучше взаимодействовать с людьми. Если машины могут понимать людей, они могут думать как люди.
Но опять же, это развитие не может быть без границ.Способ, которым люди всегда внедряли инновации, — это раздвигать свои границы.Например, у нас нет автомобиля или повозки, запряженной лошадьми, чтобы быстро бегать, но мы можем создать эти инструменты для расширения и улучшения наших возможностей, даже за пределами наших возможностей.
Иногда инновация — это не просто прорыв, инновация заключается в воспроизведении человеческих способностей и решении проблем путем замены человека. Но в любом случае, по мере того, как мы продвигаем эту технологию, должны быть границы.
Азим Ажар: Спасибо, доктор Фейфей Ли, за то, что нашли время принять участие в нашем шоу.