Машины опорных векторов (Support vector machine)Это мощный алгоритм машинного обучения, который обеспечивает более четкий и эффективный способ изучения сложных нелинейных уравнений, чем нейронные сети. Чтобы узнать о машинах опорных векторов, мы можем начать с логистической регрессии и посмотреть, как мы можем получить машины опорных векторов с небольшими изменениями.
Предположим, что в логистической регрессии функция h_θ(x):
Изображение:
Для выборки функция стоимости имеет вид:
Когда y = 1, второй элемент равен 0, и нужно рассматривать только первый элемент, и рисуется изображение первого элемента:
Мы немного изменили это изображение, тренд похож на логистическую регрессию, он становится изображением cost_1(z), которое является частью функции стоимости машины опорных векторов, как показано розовой линией на следующем рисунке:
То же самое верно и для второго элемента, cost_0(z):
Функция стоимости регуляризации в логистической регрессии:
Удалите коэффициент 1/m и замените красную часть функцией розового изображения выше:
Затем поменяйте местами веса голубых и розовых частей:
Это дает функцию стоимости машины опорных векторов:
Просто сверните эту функцию, чтобы получить параметры. Выше приведен весь процесс получения машин опорных векторов из логистической регрессии.
ps. Эта статья представляет собой учебную заметку, основанную на курсе Эндрю Нг по машинному обучению. Если вы хотите вместе изучать машинное обучение, вы можете подписаться на публичный аккаунт WeChat "SuperFeng", жду встречи с тобой.