"Это 4-й день моего участия в ноябрьском испытании обновлений, ознакомьтесь с подробностями события:Вызов последнего обновления 2021 г."

машинное обучение

Машинное обучение, также известное как теория статистического обучения, является важной ветвью искусственного интеллекта. Он получает законы данных посредством анализа данных и применяет эти законы для прогнозирования или определения других неизвестных данных.

Например, предположим, что вы хотите реализовать программу, которая распознает кошек. Традиционно, если мы хотим, чтобы компьютер распознал, нам нужно ввести ряд инструкций, таких как кошка с пушистой шерстью, пара треугольных ушей и т. д., а затем компьютер выносит решение на основе этих инструкций. Но если мы покажем программе изображение тигра, как программа должна отреагировать? Не говоря уже о традиционном способе разработки всех необходимых правил, который неизбежно включает в себя некоторые сложные понятия, такие как определение фурри. Так что лучший способ — позволить машине обучаться самой.

Мы можем предоставить компьютеру множество изображений кошек, и система будет просматривать эти изображения по-своему. По мере повторения эксперимента система будет продолжать учиться и обновляться и, наконец, сможет точно определить, какие из них являются кошками, а какие нет.

Машинное обучение делится на: обучение с учителем, обучение без учителя, обучение с учителем

контролируемое обучение

Обучение под наблюдениемданный обучающий набор данныхФункция (параметр модели) изучается из , и при поступлении новых данных результат может быть предсказан в соответствии с этой функцией. Сильно зависит от информации, предоставленной заранее определенной системой классификации.

Обучение под наблюдением включает в себя:

• KNN (метод K-ближайшего соседа) ——Привет, КНН!,Шаблон открыт, и вам нужно разблокировать дерево kd
• Наивный Байес -Да ладно~ Простой Байес похлопал тебя
• Древо решений -[Дерево решений] Это не так сложно.
• Опорные векторные машины
• Персептрон
• интегрированное обучение

неконтролируемое обучение

Основное различие между контролируемым и неконтролируемым режимом заключается в том, нужно ли обучать модель.Ручная аннотацияизИнформация на этикетке.

неконтролируемое обучениеВходные данные не помечены, и никаких конкретных результатов. Категория выборочных данных неизвестна, и набор выборок необходимо классифицировать (кластеризовать) в соответствии со сходством между выборками, пытаясь минимизировать разрыв внутри класса и максимизировать разрыв между классами. Популярным моментом будет то, что в практических приложениях во многих случаях метка выборки не может быть известна заранее, то есть нет категории, соответствующей обучающей выборке, поэтому дизайн классификатора можно узнать только из оригинальный набор образцов без этикетки образца.

Цель неконтролируемого обучения не в том, чтобы сказать компьютеру, что делать, а в том, чтобы позволить ему (компьютеру) научиться делать что-то самостоятельно.

Возможно, вы также слышали об обучении с самоконтролем?

Обучение с самостоятельным наблюдением в основном использует вспомогательные задачи для извлечения собственной информации о контроле из крупномасштабных данных без учителя и обучает сеть с помощью этой сконструированной информации о контроле, чтобы она могла изучать ценные представления для последующих задач. (То есть контролируемая информация самоконтролируемого обучения не аннотируется вручную, но алгоритм автоматически создает контролируемую информацию в крупномасштабных неконтролируемых данных для контролируемого обучения или обучения. Поэтому в большинстве случаев мы называем это прогнозированием без учителя. .метод обучения или метод обучения без учителя, строго говоря, его следует называть обучением с самоучителем)

Полуконтролируемое обучение

Полууправляемое обучение — это метод обучения между обучением с учителем и обучением без учителя, в котором для обучения используются как маркированные, так и немаркированные образцы. Используемый набор данных можно разделить на две части: одна часть представляет собой помеченный набор данных, другая часть представляет собой неразмеченный набор данных, а метка класса точек выборки в этой части набора данных неизвестна. Обычно предполагается, что неразмеченных данных гораздо больше, чем размеченных.

Обучение с полуучителем в основном рассматривает, как использовать небольшое количество помеченных образцов и большое количество неразмеченных образцов для обучения и классификации.

глубокое обучение

Глубокое обучение — важная ветвь машинного обучения и важное расширение традиционных нейронных сетей.

Глубокое обучение можно понимать как структуру нейронной сети, содержащую несколько скрытых слоев. «Глубокое» в глубоком обучении — это технический термин, который обычно относится к количеству слоев в нейронной сети. Мелкая сеть имеет один так называемый скрытый слой, тогда как глубокая сеть имеет более одного. Для общих простых функций данных он будет представлен отношением отображения от одного уровня сетевого уровня к следующему слою, в то время как иерархическая структура глубокой нейронной сети может выражать более сложные отношения отображения данных для представления более сложных функций. Проблемы, с которыми сталкивается искусственный интеллект, также имеют сложные характеристики многоуровневых данных, поэтому глубокое обучение эффективно решает некоторые сложные проблемы во всех сферах жизни.

Чтобы улучшить эффект обучения глубокой нейронной сети, люди внесли коррективы в метод подключения и функцию активации нейронов. Его целью является создание и моделирование нейронной сети человеческого мозга для анализа и обучения, а также имитация механизма человеческого мозга для интерпретации данных, таких как текст, изображения и звуки.

передача обучения

Трансферное обучение для людей — это овладениеучиться по аналогииСпособность к обучению.

• Уметь ездить на велосипеде, научиться водить.
• Знайте, как играть на классическом фортепиано, и научитесь играть на джазовом фортепиано.
• Знайте математику и статистику, изучайте машинное обучение.

Transfer Learning — это метод машинного обучения, который относится к процессу обучения, в котором используется сходство между данными, задачами или моделями для применения модели, изученной в старой области, к новой области.

Основная проблема трансферного обучения состоит в том, чтобы найти сходство между новой проблемой и исходной проблемой, чтобы передача знаний могла быть успешно реализована.

Классификация по методу миграции

• Трансферное обучение на основе экземпляров: В соответствии с определенными правилами генерации весов образцы данных повторно используются для обучения переносу.
  Как показано на рисунке ниже ?, исходный домен включает собак, птиц, кошек и т. д., а целевой домен содержит только одну категорию собак. При миграции для максимального сходства с целевым доменом мы можем искусственно упомянутьВеса выборок, принадлежащих к категории собак в области высокого источника.

Передача обучения на основе функций: Найдите несколько хороших репрезентативных функций, изучите хорошее представление функций через исходный домен, закодируйте знания в виде функций и перенесите их из исходного домена в целевой домен, чтобы улучшить эффект задачи классификации целевого домена.

Трансферное обучение на основе параметров: найти общую информацию о параметрах из исходного домена и целевого домена для реализации метода передачи. Предположение, требуемое этим методом миграции, состоит в том, что данные в исходном домене и данные в целевом домене могут иметь общие параметры модели.

Трансферное обучение на основе отношений: этот метод сравнивает взаимосвязь между образцами, которые фокусируются на исходном и целевом доменах. На рисунке ниже показаны аналогичные отношения между разными доменами.

трансферный процесс обучения

Общее трансферное обучение выглядит следующим образом: обучите сеть (мы называем ее базовой сетью) ------> скопируйте ее первые n слоев в первые n слоев целевой сети -------> цель Остальные слои сети инициализируются случайным образом --------> начать обучение целевой задачи. Среди них при выполнении backpropogate (обратного распространения) есть два метода на выбор:

(1) Заморозить первые n слоев, которые были перенесены, то есть при обучении целевой задачи не менять значение этих n слоев;

(2) Первые n слоев не замораживаются, а их значения постоянно корректируются, что называется тонкой настройкой.

Finetune, также называемая тонкой настройкой, тонкой настройкой, является важным понятием в глубоком обучении. Вкратце, тонкая настройка — это использовать сеть, которую обучили другие, а затем настроить ее под свою задачу. С этой точки зрения нетрудно понять, что точная настройка является частью трансферного обучения.

В основном это зависит от размера целевого набора данных и количества параметров в первых слоях n. Если целевой набор данных мал, а количество параметров велико, для предотвращения переобучения (переоснащения) используется замороженный метод. обычно используется, в противном случае – точная настройка.

Решить какую проблему?​

Обычно объем данных в исходном домене достаточен, а объем данных в целевом домене небольшой, этот сценарий очень подходит для трансферного обучения.Например, мы хотим классифицировать задачу, но данных недостаточно в этой задаче (целевой домен), но имеется большой объем релевантных обучающих данных (исходный домен), но эти обучающие данные имеют другое распределение признаков, чем тестовые данные в задаче классификации, которую необходимо выполнить (например, в распознавание речевых эмоций, речевых данных на одном языке достаточно, но необходимо провести классификацию (крайне не хватает эмоциональных данных задачи), в этом случае, если можно использовать подходящий метод трансферного обучения, результаты классификации и распознавания задач с недостаточным количеством образцов можно значительно улучшить.

• Повторное использование существующих данных предметной области, и большая часть существующей работы не будет полностью отброшена;
• Нет необходимости тратить много денег на повторный сбор и калибровку огромных новых наборов данных, а возможно, что данные вообще не удастся получить;
• Для быстро развивающихся новых областей его можно быстро перенести и применить, что отражает преимущество своевременности.

Добро пожаловать в Акс~

использованная литература

Обучение с самоконтролем | (1) Введение в обучение с самоконтролем

Обзор полуконтролируемого обучения

Трансферное обучение (Transfer), таких на собеседования хватит! (с кодом) --- манч

Трансферное обучение - weilongyitian