Простое понимание формулы Байеса

Цитата

Деревня, три вора: A1 Сяо Чжан, A2 Сяо Ин, A3 Сяо Чжэн. Событие Б – кража из села. Известно, что вероятность успеха кражи Сяо Чжана равна 0, вероятность успеха кражи Сяоин равна 1/2, а вероятность успеха кражи Сяо Чжэна равна 1. Только один человек может украсть за раз, найти P(B)

анализировать

Из названия мы знаем, что вероятность того, что три человека украдут, составляет все $\frac{1}{3}$ , поэтому имеем:

P(B|A_1)=0, P(B|A_2)=\frac{1}{2}, P(B|A_3)=1

решать

Примечание: A_1,A_2,A_3 взаимоисключающие, и по формуле умножения: P(AB)=P(A)P(B|A) , поэтому имеем:

P(B)=P(BS)=P(B\bigcap(A_1\bigcup A_2\bigcup A_3))\\=P(BA_1\bigcup BA_2 \bigcup BA_3 )=P(BA_1)+P(BA_2)+P(BA_3)\\=P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+P(A_3)P(B|A_3)\\=\frac{1}{3}*0+\frac{1}{3}*\frac{1}{2}+\frac{1}{3}*1=\frac{1}{2}

так $P(B)=\frac{1}{2}$

Суммировать

В процессе решения использовалась формула полной вероятности:

P(B)=P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+P(A_3)P(B|A_3)

где B — событие испытания E, A_1,A_2,A_3 представляет собой полную группу событий. Формула полной вероятности весьма важна и является основой для нашего вывода формулы Байеса.

байесовская формула

проблема

Однажды человек в деревне закричал: «Он украден! ! ! Потом пришла полиция. Всего подозреваемых трое: A1 Сяо Чжан, A2 Сяоин и A3 Сяо Чжэн. В полицейском участке есть записи об их способности воровать: вероятность успеха Сяо Чжана в краже равна 0, вероятность успеха Сяоина в краже составляет 1/2, а вероятность успеха Сяо Чжэна в краже равна 1. Спросите: какова вероятность того, что эти три человека связаны с этим делом о краже?

анализировать

Эта задача немного отличается от примера Пример состоит в том, чтобы узнать способность к краже 3 человек и найти вероятность кражи в деревне. И эта задача состоит в том, чтобы узнать способность к краже 3 человек и вероятность кражи в деревне, найти вероятность кражи каждого человека. Это называется逆事件概率,贝叶斯公式вопросы, которые требуют решения.

решать

Перед тем, как украсть и отправить, мы думаем: вероятность того, что три человека украдут, одинакова (это наше субъективное ощущение). Таким образом, мы имеем:

$P(A_1)=P(A_2)=P(A_3)=\frac{1}{3}$

$P(B) = \frac{1}{2}$

$P(B|A_1)=0, P(B|A_2)=\frac{1}{2}, P(B|A_3)=1$

Нам нужно: P(A_1|B), P(A_2|B), P(A_3|B) , применяя формулу полной вероятности, формулу условной вероятности и формулу умножения, есть:

$P(A_{1}|B) = \frac{P(A_1B)}{P(B)} = \frac{P(A_1)P(B|A_1)}{ \sum_{i=1}^{3} P(A_i)P(B|Ai)}=\frac{\frac{1}{3} * 0}{\frac{1}{2}}=0$

$P(A_{2}|B) = \frac{P(A_2B)}{P(B)} = \frac{P(A_2)P(B|A_2)}{ \sum_{i=1}^{3} P(A_i)P(B|Ai)}=\frac{\frac{1}{3} * \frac{1}{2} }{\frac{1}{2}}=\frac{1}{3}$

$P(A_{3}|B) = \frac{P(A_3B)}{P(B)} = \frac{P(A_3)P(B|A_3)}{ \sum_{i=1}^{3} P(A_i)P(B|Ai)}=\frac{\frac{1}{3} * 1 }{\frac{1}{2}}=\frac{2}{3}$

Поэтому самым большим подозреваемым является Сяочжэн.

Суммировать

В этом примере используется так называемая формула Байеса:

$P(A_{i}|B) = \frac{P(A_iB)}{P(B)} = \frac{P(A_i)P(B|A_i)}{ \sum_{i=1}^{n} P(A_i)P(B|Ai)}$

$P(A_{i})$ - так называемая априорная вероятность, и $\frac{P(B|A_{i})}{ \sum_{i=1}^{n} P(A_i)P(B|Ai)}$ является апостериорной вероятностью.

Зачем так называть?

До украденной передачи мы считаем, что вероятность кражи 3 человек составляет 1/3. Но после отправки кражи, из-за разной способности каждого человека воровать, вероятность того, что мы предсказываем, кто будет воровать, изменится. В этом примере априорная вероятность $P(A_i) = \frac{1}{3}$ . Априорные вероятности, как правило, являются нашими субъективными представлениями: мы считаем, что все имеют одинаковую вероятность украсть, прежде чем отправить украденное. И какова апостериорная вероятность? Поскольку вероятность успеха кражи у каждого человека разная, после того, как произойдет кража, изменится и вероятность того, кто ее украдет. Таким образом, апостериорная вероятность является поправочным коэффициентом: когда происходит событие, оно влияет на вероятность исходного события.
какую задачу решает формула байеса

Байесовский метод решает проблему обратной вероятности. Что такое обратная вероятность? например, в村子失窃В примере正向概率То есть: Зная воровские способности каждого человека, найдите вероятность воровства в деревне.

и逆向概率То есть: Зная вероятность воровства в деревне и воровские способности каждого человека, кража произошла, а затем найти вероятность того, что каждый человек имеет отношение к данному случаю кражи.
Каковы приложения формулы Байеса?

Формула Байеса действительно использовалась более чем через сто лет после ее публикации. Почему формула Байеса не воспринималась всерьез? Поскольку априорная вероятность добавляется, а априорная вероятность является нашим субъективным образом, традиционная теория вероятностей считает, что вероятностью и статистикой нельзя управлять субъективно, что приводит к тому, что байесовскую формулу не воспринимают всерьез.

Позже люди постепенно обнаружили, что формула Байеса очень полезна, и она широко используется в ряде задач, таких как прогнозирование погоды и обработка спама. Байесовская формула также является чрезвычайно важной моделью в машинном обучении.

Более простое понимание формулы Байеса

Есть две коробки А и В одинакового размера, формы и количества шаров.В коробке А 1/3 белых шаров и 2/3 черных шаров. Коробка B состоит из черных шаров.

С завязанными глазами мы тянемся к шарам из корзин: поскольку шары имеют одинаковый размер, форму и количество, мы думаем, что вероятность того, что шары, которые мы берем, придут из корзин A и B, равна 1/2.

Но после того, как я его вынул, я взглянул на него и обнаружил: это белый шар. Затем я пришел к выводу: этот мяч, должно быть, выпал из ящика А.

Вероятность того, что вытащенный шар окажется из ящика А, изменилась с 1/2 до 1. Почему это? Это потому, что апостериорная вероятность различна, цвет шара, которого коснулись, повлияет на вероятность в начале.

Используем формулу Байеса для расчета:

Мы определяем: $P(A)=P(\{取出的球来自A箱子\})，P(B)=P(\{取出的球来自B箱子\})\\P(C)=P(\{取出的球是白色\})$

известный $P(A)=\frac{1}{2}, P(B)=\frac{1}{2}, P(C)=\frac{1}{6}, P(C|A) = \frac{1}{3}, P(C|B) = 0$

По формуле Байеса:

$P(A|C) = \frac{P(AC)}{P(C)} = \frac{P(A)P(C|A)}{P(C)} = 1$

$P(B|C) = \frac{P(BC)}{P(C)} = \frac{P(B)P(C|B)}{P(C)} = 0$

Можно видеть, что вероятность того, что вытащенный шар окажется из ящика А, изменилась с 1/2 до 1, поскольку апостериорная вероятность влияет на первоначальную вероятность.