0 Предисловие

Распределение Гиббса является основой модели вероятностного графа.После круга Baidu я обнаружил, что большинство статей были об определении и применении физики.Позже я нашел это предложение в энциклопедии Baidu:

Выборка Гиббса изЦепь МарковаОбразец взят изЦепь Марковаиматрица перехода вероятностиСвойства , делают вывод, что его выборочное распределение в конечном итоге сходится к совместному распределению.

1. Выборка Гиббса

Предположим, есть такой сценарий: подбрасывая две монеты А и В, они не являются независимыми. Монета А ходит руками и ногами, вероятность выпадения орла (обозначается как 1) равна 0,6, а вероятность выпадения решки (обозначается как 0) составляет 0,4; монета В, вероятность выпадения орла (обозначается как 1) составляет 0,5, а вероятность выпадения решки (обозначенной как 0) равна 0,5 0) с вероятностью 0,5 (универсальный пример подбрасывания монеты). Совместное распределение монет A и B сегодня составляет:

	A:0	A:1
B:0	0.1	0.4
B:1	0.3	0.2

1.1 Интуитивно понятный метод выборки

AB две случайные величины, предполагая, что случайно сгенерированная последовательность $\left \{ A:0, B:0, A:1, B:0, A:0, B:1, A:0, B:0,..., A:1, B:1 \right \}$ , а затем случайную выборку из следующей последовательности (две последовательные выборки за раз), когда объем данных достаточно велик, можно наблюдать следующие явления:

P(A=0,B=0) \approx 0.1\\ P(A=1,B=0) \approx 0.4\\ P(A=0,B=1) \approx 0.3\\ P(A=1,B=1) \approx 0.2

Хотя такой метод выборки интуитивно понятен, его неудобно использовать, когда имеется много случайных величин.

1.2 Наиболее часто используемые методы отбора проб

Предположение P(A|B) Условное распределение:

	$P(A=0 \\| B)$	$P(A=1 \\| B)$
B=0	$\frac{1}{5}$	$\frac{4}{5}$
B=1	$\frac{3}{5}$	$\frac{2}{5}$

Предположение P(B|A) Условное распределение:

	A=0	A=1
$P(B=0 \\| A)$	$\frac{1}{4}$	$\frac{2}{3}$
$P(B=1 \\| A)$	$\frac{3}{4}$	$\frac{1}{3}$

Затем выполните следующий процесс выборки:

когдаКогда оно достаточно велико, можно найти совместное распределение вероятностей A и B.

1.3 Пример визуализации

На рисунке ниже фиолетовый цвет представляет начальное распределение, а четыре черных кружка — совместное распределение. После периода итерации вы можете видеть, что фиолетовое распределение постепенно приближается к распределению, представленному черным кружком.

1.4 Пример нескольких параметров

Точно так же требуется совместное распределение нескольких параметров, если выполняется следующий процесс.

2. Ограничения выборки Гиббса

Если две случайные величины сильно коррелированы, скорость сходимости выборки Гиббса будет очень низкой.Общий метод заключается в использовании блочного метода, предполагая, что $\theta_1, \theta_2$ имеет высокую степень корреляции, то совместное распределение можно найти следующим образом:

3. ссылка на справочное видео