Gibbs分布
发布网友
发布时间：2023-06-25 23:55
共1个回答
热心网友
时间：2024-12-04 21:03
假设有这样一个场景：抛两枚硬币A,B,二者不独立。硬币A动过手脚，正面向上（记为1）的概率是0.6，反面向上（记为0）的概率是0.4；硬币B，正面向上（记为1）的概率是0.5，反面向上（记为0）的概率是0.5（万能的抛硬币例子）。现今A、B两枚硬币的联合分布为：
AB两个随机变量，假设随机生成的序列为 ，然后从如下序列中进行随机采样（每次取连续两个），当数据量足够多时，可以观察到如下现象：
这样的采样方法虽然直观，但是当随机变量较多时不方便使用
假设 的条件分布为：
假设 的条件分布为：
然后执行如下采样流程：
当 足够大时，可以发现A,B的联合概率分布。
在下图中，紫色代表初始分布，黑色的四个圈代表联合分布。经过一段时间的迭代之后，可以看到紫色分布逐渐*近黑色圆圈所代表的分布。
同样的，要求多参数的联合分布，只要执行如下流程即可。
如果两个随机变量相关程度很大，那么Gibbs采样的收敛速度将会非常慢，一般采取的方法是使用block方法，假设 具有很高的相关程度，那么可以采用如下方式寻找其联合分布：
