Добавить Автора

Официальный аккаунт: AI Machine Learning and Knowledge Graph

Направление исследования: обработка естественного языка и граф знаний

Предисловие: Если вам нужно получить все материалы рукописи этой статьи, отсканируйте код и следуйте официальной учетной записи [AI Machine Learning and Knowledge Graph] и ответьте: Первая лекция по машинному обучению может быть получена.

Оригинальность непростая, просьба сообщать и указывать источник при перепечатке! Отсканируйте код, чтобы подписаться на официальный аккаунт, регулярно публиковать графики знаний, обработку естественного языка, машинное обучение и другие знания, добавлять WeChat [17865190919] в группу обсуждения и отмечать при добавлении друзей из Nuggets.

1. Основные понятия

В конце концов, задачи машинного обучения превращаются в оптимальное решение целевой функции, а MLE и MAP — две основные идеи для генерации целевой функции, которые также соответствуют частотной и байесовской идеям соответственно.Давайте кратко сравним существенные различия между частотным и байесовским.

Объектом исследования машинного обучения являются данные, и данные соответствуют определенному распределению вероятностей. Прежде всего, будь то для частотников или байесовцев, мы пытаемся найти распределение вероятностей, которому соответствуют данные, например, набор данных X, построить модель на основе данных и, наконец, решить параметры модели.$\Theta$.

1,Фреквентистская и байесовская точки зрения различны: Частотность исходит из информации, содержащейся в самом событии.Например, частота события А в независимых повторяющихся экспериментах стремится к пределу р, а предел р есть вероятность наступления события А. Байесовская школа исходит из наблюдателя, который наблюдает событие. С точки зрения, одно и то же событие является определенным событием для тех, кто его знает, и случайным событием для тех, кто не знает. Случайность зависит не от самого события, а от состояния знания наблюдателя о событии В школе вводятся априорная вероятность и апостериорная вероятность.

2,Frequentist, оценка максимального правдоподобия MLE: считает частотник$\Theta$— неизвестная константа, X — случайная величина, параметры решения для оценки максимального правдоподобия MLE$\Theta$, оценка максимального правдоподобия и логарифм параметров решения оценки максимального правдоподобия$\Theta$:

3,Байесовская, максимальная апостериорная оценка MAP: байесовский взгляд$\Theta$является случайной величиной, которая соответствует определенному распределению, и X также является случайной величиной.Нам нужно решить априорную p($\Theta$), максимальная апостериорная оценка MAP, байесовский метод решает задачу по максимальной апостериорной вероятности

4,Суммировать: По сути, MLE напрямую вычисляет параметр вероятности на основе выборочных данных, в то время как MAP — это распределение вероятностей, которое предварительно устанавливает параметр, а затем корректирует его с помощью выборочных данных. При выборе и использовании двух вышеуказанных методов, если размер выборки недостаточно велик, MAP больше соответствует реальной ситуации, например, подбрасывание монеты пять раз, и все они выпадают орлом. Использование MLE для расчета вероятности того, что монета выпадет орлом, составляет 100%, а вероятность MAP, рассчитанная с использованием априорной вероятности 50%, составляет 51%, что больше соответствует реальной ситуации. Эти два метода аналогичны, если выборка достаточно велика. В то же время недостатком MAP является то, что он опирается на разумную априорную вероятность, и если априорная вероятность проблематична, это также повлияет на результаты.

2. Учебные материалы

1. Информация о книге

(1) Статистический метод обучения г-на Ли Ханга

(2) Книга арбуза учителя Чжоу Чжихуа

(3) Глубокое обучение

(4) Распознавание образов PRML и машинное обучение

(5) MLAPP рассматривает машинное обучение с точки зрения вероятности

(5) ESL Элементы статистического обучения

2. Видеоданные

(1) Курс г-на Ву Энда CS229

(2) Преподаватель Линь Сюаньтянь, Краеугольный камень машинного обучения Тайваньского национального университета, Методы машинного обучения

• Видеоматериалы по основам машинного обучения
• Видео о методах машинного обучения
• Документация по основам машинного обучения и методам машинного обучения

(3) Г-н Чжан Чжихуа Статистическое машинное обучение, Введение в машинное обучение

• Видеоролики по статистическому машинному обучению
• Введение в машинное обучение
• Введение в документацию по машинному обучению

(4) Преподаватель Ли Хунъи, Машинное обучение Тайваньского национального университета (2017 г.), MLDS (2018 г.)

• Машинное обучение (2017) Видео
• МЛДС (2018) Видео
• Машинное обучение (2017) Курсы и задания
• Машинное обучение (2017) Код после занятий
• MLDS (2018) курс и задания

(5) Вероятностное машинное обучение г-на Сюй Ида

• Ссылка на видео о вероятностном машинном обучении