1 引言

在学习机器学习和深度学习的过程中，基础的数学知识粗略的可以分为两大类：矩阵论和概率论，基本都逃不过这两个框架（除了优化问题）。而在概率论中尤其以变分推断用的最为广泛，无论是最新的深度学习算法还是机器学习基础，各种知识方法总是存在着对变分推断这一部分知识的交叉。因此掌握变分推断是十分重要的（模型要用啊），所以才有了这篇文章，其中内容图片多有参考他人文章，相关参考来源一并在参考文献中给出链接。

2 前置知识

2.1 隐变量

2.2 先验分布

2.3 后验分布

2.4 边缘分布

2.5 贝叶斯公式

3 简单理解变分推断

首先，我们的原始目标是，需要根据已有数据推断需要的分布 ppp；当 ppp 不容易表达，不能直接求解时，可以尝试用变分推断的方法，即，寻找容易表达和求解的分布 qqq，当 qqq 和 ppp 的差距很小的时候，qqq 就可以作为 ppp 的近似分布，成为输出结果了。在这个过程中，我们的关键点转变了，从“求分布”的推断问题，变成了“缩小距离”的优化问题。
在这里插入图片描述

黄色的分布是我们的原始目标 ppp，不好求。它看上去有点像高斯，那我们尝试从高斯分布中找一个红qqq和一个绿qqq，分别计算一下 ppp 和他们重叠部分面积，选更像 ppp 的 qqq 作为 ppp 的近似分布。上面是对变分推断的一个直接理解，距离深入理解模型还有距离。

参考文献

[1]如何简单易懂地理解变分推断(variational inference)？
[2]变分推断的本质：用一个简单分布拟合另一个复杂分布
[3][贝叶斯统计] 2 隐变量模型，随机变分推断和VAEs
[4]【机器学习】高斯混合模型详解

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：今起，中国免签国家+5！

下一篇：Pytorch中的torch.utils.data模块

热门资讯

走进小城看消费丨江西资溪：低碳... 夏日时节下午4点，江西省抚州市资溪县大觉山景区漂流终点依然热闹。来自南昌的游客余鑫漂流结束后没有...

【中原晨会0625】市场分析专... 来源：市场资讯（来源：中原证券研究所）本期重点研报目录【中原策略】市场分析：电子半导体领涨 ...

南向资金连买4日！低费率+可月... 6月25日早盘，港股红利资产震荡整理。截至11时14分，港股红利低波ETF招商(520550)下跌0...

618成交破百万！紫荆花用一套... 一年一度的618年中大促，是消费市场的晴雨表，也是品牌间最激烈的角力场。当各大品牌在直播间里铆足了劲...

原创黄... 2026年6月25日的国际金价已经从前期的5500美元高点跌到4200美元下方，累计跌幅超过22%，...

英伟达CEO：Vera Rub... 截至9:38，中证半导体材料设备主题指数（931743）涨2.36%创新高；权重股中，中微公司涨3....

再被催债16亿！“钢铁大王”戴... 澎湃新闻记者贺梨萍因“铁本事件”入狱五年的戴国芳重返钢铁行业，但他并没有完成从阶下囚再到“钢铁大...

周三原油价格下跌随着美国和伊朗在和平谈判中取得进展，越来越多的油轮公开穿越霍尔木兹海峡，原油在战时的价格上涨已经蒸发...

这种蛋白是大脑衰老的开关这种蛋白是大脑衰老的开关清晨，假设一位五十岁左右的王女士发现自己常常把手机放在熟悉的抽屉里又找不到...

信通院牵头算力Token出海生... 盘面上，截至11：04，中证科创创业50指数（931643）涨1.68%，创历史新高；权重股中，芯原...

海外 774 亿营收背后：日本... 文 | 游戏价值论 6月23日，彭博社报道了腾讯正在围绕出售多家日本游戏工作室少数股权开展谈判，包...

餐饮“抢人”大战：把店开到公交... 作者 |餐饮老板内参内参君医院、公交站、演唱会…餐饮品牌，正在无孔不入在北京儿童医院，肯德基...

快讯 | 外资扫货！陈翊庭：港... 港交所行政总裁陈翊庭在接受《中国证券报》专访时指出，国际资本对中国资产的看法已彻底扭转，布局中国市场...

2777.77元！A股“股王”... 25日早盘，昨天创下历史新高的A股“股王”联讯仪器，今天上午继续走强，盘中股价再度刷新历史新高。截...

原创今... 欧洲自己的媒体直接下结论，欧盟衰退躲不掉，内部分裂拦不住，现在就连欧洲顶尖工业巨头，都偷偷在用中国的...

黄仁勋股东大会放言：本轮AI基... 在当地时间6月24日的英伟达（NVDA.O）2026年度股东大会上，股东批准了该公司全部10名董事会...

国际油价大跌新华社消息，纽约原油期货主力合约价格24日盘中跌破每桶70美元，为伊朗战事爆发以来首次。市场分析...

马云带队插秧，什么信号？一场别开生面的“务农”，让外界看到了一个不一样的阿里巴巴。近日，阿里巴巴合伙人、高德董事长刘振飞在...

全球最大产能，最高丰度达99.... 本文转自【科技日报】； 6月23日，高丰度硼-10同位素技术暨产业化成果发布会在山东省东营市举办，全...

黄金大跳水！金饰克价年内暴跌近... 25日，现货黄金盘中震荡，截至发稿，报3985.070美元/盎司，跌0.17%。当地时间24日，...

【泛函基础】变分推断详解（一）

目录