[Вместе взять интервью у ИИ] NO.6 Предвзятость и дисперсия

интервью

Отклонение измеряет отклонение между ожиданиями алгоритма обучения и фактическими результатами и описывает производительность самого алгоритма."Возможность установки", дисперсия измеряет изменение эффективности обучения, вызванное изменениями в обучающей выборке того же размера.

偏差与方差
Предвзятость и дисперсия

Смещение используется для описания подгоночной способности модели, а дисперсия используется для описания стабильности модели.

Когда степень обучения недостаточна, смещение доминирует над ошибкой обобщения модели;

Когда обучение переходит на более позднюю стадию, подгоночная способность модели повышается, и дисперсия преобладает над ошибкой обобщения модели;

Когда обучение достаточно, если способность к подгонке слишком сильна, это приведет к переобучению.

Q1 Связь между ошибкой обобщения, смещением, дисперсией и шумом

Ошибка обучаемого на обучающем наборе называется «ошибкой обучения» или «эмпирической ошибкой», а ошибка на новых выборках называется «ошибкой обобщения».

"шум"это ошибка между истинной меткой и фактической меткой в ​​наборе данных.

"отклонение"Ошибка ожидаемого предсказания от наземной истины становится предвзятостью.

"ошибка обобщения"Его можно разложить на сумму смещения, дисперсии и шума.

Этот вопрос включает в себя множество операций с формулами. Поскольку он в основном предназначен для диалогов интервью, уравнения больше не перечислены. Если вам интересно, вы можетекликните сюдапонять конкретный процесс.

Q2 Что вызывает предвзятость и дисперсию

"отклонение"Это связано с недостаточной сложностью модели или неправильными предположениями об алгоритме обучения;

Например, реальная модель представляет собой кубическую функцию, а подобранная — квадратичную функцию, что приведет к смещению"всплеск", что является недостаточным явлением. Таким образом, ошибка обучения в основном вызвана предвзятостью.

Дисперсия обычно вызвана высокой сложностью модели;

Например, реальная модель представляет собой квадратичную функцию, а подобранная — функцию пятого порядка, что приведет к"переоснащение", дисперсия"увеличивать". Ошибка из-за дисперсии обычно отражается в изменении ошибки теста по сравнению с ошибкой обучения.

Наконец:
Подпишитесь, чтобы увидеть больше
Посмотрите на количество моих поклонников ?