null - 程序员宅基地

置信传播算法（Belief Propagation）简介_app-bp概率域置信传播-程序员宅基地

技术标签：算法 5G python 通信系统人工智能

基础知识

条件概率（Conditional Probability）

在这里插入图片描述

相互独立时，p(A | B) = p(A)

贝叶斯规则

贝叶斯网络（Bayesian Network）定了一个独立的结构：一个节点的概率仅依赖于它的父节点。贝叶斯网络适用于稀疏模型，即大部分节点之间不存在任何直接的依赖关系。
在这里插入图片描述

联合概率（Joint Probability）

表示所有节点共同发生的概率，将所有条件概率相乘：
在这里插入图片描述
我们最终的目标是计算准确的边缘概率（Marginal Probability），比如计算Hangover的概率，边缘概率为各种状态下所有其他节点对本节点影响的概率的和。

边缘概率（Marginal Probability）

即某个事件发生的概率，而与其它事件无关。边缘概率是这样计算的：在联合概率中，把最终结果中不需要的那些事件合并成其事件的全概率而消失（在两个离散随机变量的条件下，对于其中任一行或任一列求和，得到的概率就是边缘概率）。在本例中，针对不同的Hangover进行求和，得到的就是Hangover的边缘概率：
在这里插入图片描述
如果贝叶斯网络比较小，我们可以很简单的做边缘求和运算，但是如果问题规模较大，整个运算复杂度和数据将会以指数级增长。而利用BP算法去计算这样的网络问题，可以使得运算复杂度只和节点数线性相关。在这种意义上，BP算法在大型贝叶斯网络推断问题中扮演着越来越重要的作用。

马尔科夫随机场（Markov Random Field，MRF）

在这里插入图片描述

在概率图模型中，每个结点表示一个随机变量，结点之间的边表示这些随机变量之间的概率关系。在概率图模型中，所有随机变量的联合概率分布可以表示成若干随机变量子集的乘积。典型的概率图模型包括贝叶斯网和马尔科夫网。贝叶斯网是有向图模型， 用于表示随机变量之间的因果关系，而马尔科夫网是无向图模型， 用于表示随机变量的概率分布和概率推理，或者说是随机变量之间的软约束关系。

BP算法的基础就是建立于MRF上，MRF是一种条件概率模型，它可以被认为是马尔科夫链的一种推广，其对于场内所有节点的相关性都能很有效的描述。

假设我们观察到yi的一些信息，需要利用这些已知信息去推断关于隐含的场景xi的另外一些信息。每个顶点i都有一个状态值xi和一个观测值yi，每个状态值和观测值之间的似然函数为Фi(xi,yi)，反映了i处的 xi和 yi存在统计依赖性，表示节点i的联合相容度，相邻邻居节点之间的势能量为Ψij(xi,xj)，Ψij(xi,xj)也称为相邻节点之间的不连续代价，反映了节点变量 xi 和 xj 之间的相容性，体现了随机场自身具备的约束条件。

置信度传播(Belief Propagation，BP)

置信度传播算法利用结点与结点之间相互传递信息而更新当前整个MRF的标记状态，是基于MRF的一种近似计算。该算法是一种迭代的方法，可以解决概率图模型概率推断问题，而且所有信息的传播可以并行实现。经过多次迭代后，所有结点的信度不再发生变化，就称此时每一个结点的标记即为最优标记，MRF也达到了收敛状态。对于无环环路的MRF，BP算法可以收敛到其最优解。

BP算法的两个关键过程：（1）通过加权乘积计算所有的局部消息；（2）节点之间概率消息在随机场中的传递。
在这里插入图片描述
有了消息更新规则以及置信度计算公式，就可以先任意初始化每个 $b_i(x_i)$ ，然后迭代的求解 $m_{ij}$ 和 $b_i(x_i)$ 直至收敛，也就是说 $m_{ij}$ 不再发生变化。也就是说首先对一些初始节点的消息赋初值，然后多次迭代消息传播和置信度更新直到它们稳定，最后就能从置信度中获取相应的概率。

置信度替换为概率：
在这里插入图片描述
$b_i(x_i)$ 为节点 $i$ 的联合概率分布，其中 $m_{ji}(x_{i})$ 代表隐含节点 $j$ 传递给隐含节点i的消息，表明了隐含节点 $i$ 对隐含节点 $j$ 当前状态的影响。 $Ф_i(x_i,y_i)$ 表示节点 $i$ 的局部证据，表示节点 $i$ 的联合相容度。节点i的置信度 $b_i(x_i)$ 与 $i$ 的邻域向 $i$ 传递的所有消息的乘积成正比，同时也正比于 $Ф_i(x_i,y_i)$ ， $1/z_i$ 为归一化常数，可使置信度的和为1， $N (i)$ 为节点i的MRF一阶邻域。

消息传播的信息：
在这里插入图片描述
包含所有其他传入节点i的消息乘积， $N (j) / i$ 表示节点j的MRF一阶邻域中排除掉目标节点i的邻域。

有了消息更新规则以及置信度计算公式，就可以先任意初始化每个 $b_i(x_i)$ ，然后迭代的求解 $m_{ij}$ 和 $b_i(x_i)$ 直至收敛，也就是说 $m_{ij}$ 不再发生变化。也就是说首先对一些初始节点的消息赋初值，然后多次迭代消息传播和置信度更新直到它们稳定，最后就能从置信度中获取相应的概率。

置信度传播算法中迭代运算步骤可以表示如下:

（1）随机选择相邻的隐含节点 $x_i$ , $x_j$

（2）从 $x_i$ 向 $x_j$ 发送消息 $m_{ij}$
在这里插入图片描述

（3）更新节点 $x_j$ 的置信度

（4）跳至步骤（1），直到算法收敛

在以此为规则的计算中，从无环图的边缘节点开始传播，然后如果一个节点所有相邻节点的消息都已经计算出来，则计算该节点的消息。易得整个无环图仅仅只需计算一遍就可以得到所有隐含节点的边缘概率分布。可以看出，BP 算法相对于一般的算法，时间复杂度上是大幅下降的。

在这里插入图片描述

本文链接：https://blog.csdn.net/daijingxin/article/details/115800989

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

【深度学习】归一化_深度学习那些情况要做归一化-程序员宅基地

文章浏览阅读1.8w次，点赞8次，收藏11次。以前在神经网络训练中，只是对输入层数据进行归一化处理，却没有在中间层进行归一化处理。要知道，虽然我们对输入数据进行了归一化处理，但是输入数据经过 $ \sigma(WX+b) $ 这样的矩阵乘法以及非线性运算之后，其数据分布很可能被改变，而随着深度网络的多层运算之后，数据分布的变化将越来越大。如果我们能在网络的中间也进行归一化处理，是否对网络的训练起到改进作用呢？答案是肯定的。这种在神经网络中间层也进行归一化处理，使训练效果更好的方法，就是批归一化Batch Normalization（BN）。_深度学习那些情况要做归一化

微信小程序支付接口实现（java后台）_小程序后台java支付接口-程序员宅基地

文章浏览阅读1.2w次，点赞12次，收藏101次。#（Notice：以下所有经验也是我根据网上的经验整理的，如有侵权可以联系我删除，QQ 654303408。有问题讨论也可联系我，QQ同上。）#（Tips：我是第一次开发，一个刚毕业的java工程师，我觉得我并非天赋异禀，我能学会，相信聪敏的你，一定可以）#(PS:目前微信拥有无可撼动的人口基数，越来越多的项目开发是基于微信小程序，或者APP。但是支付方式无非两种，一种是支付宝，一种是微信支..._小程序后台java支付接口

python web server_用Python建立最简单的web服务器-程序员宅基地

文章浏览阅读27次。第一个python Web程序——简单的Web服务器。与其它Web后端语言不同，Python语言需要自己编写Web服务器。如果你使用一些现有的框架的话，可以省略这一步；如果你使用Python CGI编程的话，也可以省略这一步；用Python建立最简单的web服务器利用Python自带的包可以建立简单的web服务器。在DOS里cd到准备做服务器根目录的路径下，输入命令：python -m Web服务..._pyjwt webserver

【图像重建指标 Metrics】均方误差RMSE及平均绝对误差MAE的定义和区别_rmse与mae有换算公式吗-程序员宅基地

文章浏览阅读1.3w次，点赞3次，收藏23次。RMSE和MAE能很好的反应图像的重建结果与真实结果间的差异。_rmse与mae有换算公式吗

Kotlin Gradle Junit单元测试print输出控制台_gradle 打印日志 system. out.print-程序员宅基地

文章浏览阅读3.4k次。背景默认情况下，Gradle 单元测试，是无法使用 System.out.println 这样打印变量信息的，这会让我们debug变得非常麻烦。百度网上很多方案，，但都比较麻烦，也很容易踩坑，。换了个搜索姿势，google了下，原来方案如此简单。解决在你的模块下的build.gradle.kts添加如下的配置：tasks.withType<Test> { this.testLogging { this.showStandardStreams = true _gradle 打印日志 system. out.print

Android基本组件之服务Service_安卓如果设置组服务-程序员宅基地

文章浏览阅读167次。Service的开启与关闭1.继承Service类2.在AndroidManifest.xml中注册<service android:name=".MyService" android:enabled="true" android:exported="true"></service>直接创建Service的话，前两步会自动执行3.通过Contex.startSer..._安卓如果设置组服务

随便推点

sqlmap的使用--绕过--自带脚本tamper_sqlmap绕过脚本-程序员宅基地

文章浏览阅读2.2k次，点赞2次，收藏11次。sqlmap在默认的的情况下除了使用char()函数防止出现单引号，没有对注入的数据进行修改，还可以使用–tamper参数对数据做修改来绕过waf等设备。命令格式：sqlmap -u [url] --tamper [模块名]通过使用whereis sqlmap查看sqlmap安装路径，自带的脚本一般是在usr/share/sqlmap/tamper下,我的是1.6.3版本一共有66个自带脚本下边引一些常用的脚本：apostrophemask.py适用数据库：ALL作用_sqlmap绕过脚本

置信传播算法（Belief Propagation）简介_app-bp概率域置信传播-程序员宅基地

目录

基础知识

条件概率（Conditional Probability）

贝叶斯规则

联合概率（Joint Probability）

边缘概率（Marginal Probability）

马尔科夫随机场（Markov Random Field，MRF）

置信度传播(Belief Propagation，BP)

智能推荐

【深度学习】归一化_深度学习那些情况要做归一化-程序员宅基地

微信小程序支付接口实现（java后台）_小程序后台java支付接口-程序员宅基地

python web server_用Python建立最简单的web服务器-程序员宅基地

【图像重建指标 Metrics】均方误差RMSE及平均绝对误差MAE的定义和区别_rmse与mae有换算公式吗-程序员宅基地

Kotlin Gradle Junit单元测试print输出控制台_gradle 打印日志 system. out.print-程序员宅基地

Android基本组件之服务Service_安卓如果设置组服务-程序员宅基地

随便推点

sqlmap的使用--绕过--自带脚本tamper_sqlmap绕过脚本-程序员宅基地

换行分隔符_分隔符换行-程序员宅基地

waves效果器_混音选择困难2，Waves均衡器全介绍与理论使用心得-程序员宅基地

在Android中播放音频和视频_android 播放语言视频-程序员宅基地

Sublime and Markdown-程序员宅基地

android uboot log,RK3288 Android 8.1系统uboot logo过渡到kernel logo会花一下-程序员宅基地

推荐文章

热门文章

相关标签