Руководство для начинающих по AutoML Framework от Google

предисловие

Эта статья была изменена и создана в сотрудничестве с Kabuto_hui (членом Государственной ключевой лаборатории ISN) благодаря Kabuto_hui. Дополнительные технические статьи см. в блоге csdn Kabuto_hui () ссылка: http://blog.csdn.net/kabuto_hui

Управляемое чтение

В рамках стратегии AI First компания Google последовательно выпускала продукты и технологии, связанные с ИИ. Согласно последнему отчету: система AutoML от Google пишет собственный код машинного обучения, и ее эффективность в некоторой степени превышает эффективность профессиональных инженеров-исследователей. Цель AutoML не в том, чтобы исключить людей из процесса разработки и не в том, чтобы разработать совершенно новый ИИ, а в том, чтобы позволить ИИ продолжать поддерживать определенную скорость, чтобы изменить мир. Автор считает, что машинное программирование вот-вот заменит программистов, что является полной чушью.

Ниже представлено учебное пособие.

AutoML — источник автоматического машинного обучения

в этом году вICML 2017Международная конференция по машинному обучению, ICML) Международная конференция по машинному обучению иECMLPKDD 2017(Европейская конференция по машинному обучению и принципам и практике обнаружения знаний в базах данных, ECMLPKDD) Европейская конференция по машинному обучению и принципам и практике обнаружения знаний в базах данных состоитсяAutoMLсеминар. Так что же такое AutoML?

Обзор: что такое AutoML?

Машинное обучение (ML) достигло значительных успехов в последние годы, и все больше и больше дисциплин должны полагаться на него. Однако ключом к этому успеху является необходимость того, чтобы инженеры по машинному обучению выполняли следующие действия:

Предварительно обработанные данные
Выберите подходящую функцию
Выберите подходящую серию выбора модели
Оптимизация гиперпараметров модели
Постобработка моделей машинного обучения
Результаты тщательного анализа

Поскольку сложность этих задач часто превышает возможности специалистов, не занимающихся машинным обучением, быстрый рост приложений машинного обучения создал потребность в готовых методах машинного обучения, которые просты в использовании и не требуют специальных знаний. Мы называем область исследований, направленную на пошаговую автоматизацию машинного обучения, AutoML (Automatic Machine Learning, AutoML).

В то время как его конечные пользователи ориентированы на тех, у кого нет профессиональных знаний в области машинного обучения, AutoML предоставляет профессионалам в области машинного обучения новые инструменты, такие как:

Выполните поиск архитектуры для глубоких представлений
Важность анализа гиперпараметров

Следуя парадигме «оптимизированного программирования», AutoML выступает за разработку гибких программных пакетов, экземпляры которых можно автоматически создавать на основе данных.

Архитектура AutoML

Проект сети AutoML был завершен в результате многолетних тщательных экспериментов и уточнения первоначальной версии сверточной архитектуры.

В AutoML нейронная сеть контроллера может предложить архитектуру «под» модели, которая затем обучается и оценивается качество для конкретной задачи; информация, возвращаемая контроллеру, используется для улучшения предложения для следующего раунда. Мы повторяем этот процесс тысячи раз — генерируем новые архитектуры, которые затем тестируются и возвращаются, чтобы позволить контроллеру учиться. В конечном счете, контроллер научится назначать высокие вероятности хорошим архитектурам, чтобы достичь более высокой точности в наборе данных проверки продолжения с небольшими отклонениями в пространстве архитектуры. Как показано ниже:

Если AutoML окажется успешным, это может вдохновить на создание новых типов нейронных сетей, где не только эксперты могут создавать нейронные сети для своих конкретных нужд, но и машинное обучение может принести пользу всем.

Примеры AutoML

AutoML стремится создать программное обеспечение, которое новички в машинном обучении могут использовать «из коробки». Некоторые примеры, которые, возможно, были показаны недавно:

AutoWEKA— это способ одновременного выбора алгоритма машинного обучения и соответствующих ему гиперпараметров; с помощьюWEKAпакет, который может автоматически генерировать хорошие модели для различных наборов данных.
Глубокие нейронные сети, как известно, зависят от своих гиперпараметров, и некоторые современные оптимизаторы уже лучше людей настраивают параметры (например,Бергстра и др.,Снук и др.).
Создайте науку поиска модели: Сложная архитектура компьютерного зрения может быть автоматически создана для получения самых современных результатов в 3 различных задачах: сопоставление лиц, распознавание лиц и распознавание объектов.

Методы, используемые AutoML

AutoML опирается на многие дисциплины машинного обучения, в основном:

Байесовская оптимизация
Регрессионные модели для структурированных и больших данных
Метаобучение
передача обучения
Оптимизация портфеля

Система оптимизации гиперпараметров, которая облегчает AutoML

Системы гиперпараметров машинного обучения для байесовской оптимизации могут упростить AutoML, в том числе:

Hyperopt, включая алгоритм TPE
Конфигурация алгоритма на основе модели последовательности(SMAC)
[Spearmint](https://github.com/JasperSnoek/spearmint

Кроме того, доступны два пакета для оптимизации гиперпараметров:

RoBO-Надежная байесовская система оптимизации
SMAC3- Python реализация алгоритма SMAC

Функциональный анализ AutoML

В общем, для машинного обучения сначала требуется большой объем данных для обучения, а затем инженер по машинному обучению/специалист по данным анализирует данные и разрабатывает алгоритм для формирования модели обучения; это требует большого количества профессиональных знаний. Однако, если вы используете AutoML, это похоже на использование инструмента, нам нужно только передать набор обучающих данных в AutoML, тогда инструмент автоматически сгенерирует параметры и модели для нас, чтобы сформировать модель обучения, так что даже без глубокого машинного обучения экспертиза также может работать в области машинного обучения.

В настоящее время людям по-прежнему необходимо использовать AutoML для настройки параметров; в будущем большое количество искусственного интеллекта будет использоваться для создания AutoML Box, а затем данные будут передаваться в AutoML Box для создания обучающей модели, как показано на рисунке. следующий рисунок:

использованная литература

http://www.ml4aad.org/automl/
http://www.ml4aad.org/automl/workshops/
http://slides.com/streguer/automl/fullscreen#/