1 引言

在学习机器学习和深度学习的过程中，基础的数学知识粗略的可以分为两大类：矩阵论和概率论，基本都逃不过这两个框架（除了优化问题）。而在概率论中尤其以变分推断用的最为广泛，无论是最新的深度学习算法还是机器学习基础，各种知识方法总是存在着对变分推断这一部分知识的交叉。因此掌握变分推断是十分重要的（模型要用啊），所以才有了这篇文章，其中内容图片多有参考他人文章，相关参考来源一并在参考文献中给出链接。

2 前置知识

2.1 隐变量

2.2 先验分布

2.3 后验分布

2.4 边缘分布

2.5 贝叶斯公式

3 简单理解变分推断

首先，我们的原始目标是，需要根据已有数据推断需要的分布 ppp；当 ppp 不容易表达，不能直接求解时，可以尝试用变分推断的方法，即，寻找容易表达和求解的分布 qqq，当 qqq 和 ppp 的差距很小的时候，qqq 就可以作为 ppp 的近似分布，成为输出结果了。在这个过程中，我们的关键点转变了，从“求分布”的推断问题，变成了“缩小距离”的优化问题。
在这里插入图片描述

黄色的分布是我们的原始目标 ppp，不好求。它看上去有点像高斯，那我们尝试从高斯分布中找一个红qqq和一个绿qqq，分别计算一下 ppp 和他们重叠部分面积，选更像 ppp 的 qqq 作为 ppp 的近似分布。上面是对变分推断的一个直接理解，距离深入理解模型还有距离。

参考文献

[1]如何简单易懂地理解变分推断(variational inference)？
[2]变分推断的本质：用一个简单分布拟合另一个复杂分布
[3][贝叶斯统计] 2 隐变量模型，随机变分推断和VAEs
[4]【机器学习】高斯混合模型详解

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：今起，中国免签国家+5！

下一篇：Pytorch中的torch.utils.data模块

热门资讯

多家银行细化提振消费“路线图”... 本报记者杨洁今年以来，一系列扩内需、促消费政策密集出台，市场活力不断激发。《证券日报》记者了解到...

基建概念股早盘走高，基建相关E... 基建概念股早盘走高，中国电建涨停，中国能建涨超9%，中国交建涨超5%。受重仓股上涨影响，基建相关E...

明星基金经理二季度调仓曝光，多... 2025年二季报逐步披露，多位明星基金经理最新调仓情况浮出水面。今年以来，创新药板块表现持续亮眼，...

原创二... “卖房比卖白菜还难”，以前这听着就是个搞笑段子，现在却成了活生生的现实！你瞧瞧，电梯里、楼道间，还有...

兆威机电赴港IPO，近两年半员... 瑞财经严明会近日，据港交所，深圳市兆威机电股份有限公司（以下简称“兆威机电”）向港交所提交上市申...

越卖越贵，中产都开始“抢冰块”... 作者：陈澄编辑：安迪在经历过雪糕刺客、防晒衣刺客后，许多人发现，今年夏季的新刺客，似乎轮到了冰块...

晨丰科技：向全资子公司北网智算... 晨丰科技晚间公告，公司拟以自有资金9,000万元向全资子公司北网智算进行增资，增资后北网智算的注册资...

科创债发行规模超7600亿元，... 今年央行、中国证监会联合发布关于支持发行科创债有关事宜的公告，旨在通过创新金融工具进一步疏通科技企业...

泰福泵业关联并购：“牛散”家族... 2025年7月9日，主营水泵制造的泰福泵业(300992.SZ)宣布收购浙江南洋华诚科技股份有限公司...

A股特别提示（7-21）：英伟... 来源：国金证券第5小时新股：悍高集团 001221.SZ 1、国资央企援藏再升级。在国资央企助力西...

摩根基金管理(中国)胡迪旗下摩... 证券之星消息，7月21日摩根基金管理(中国)旗下胡迪何智豪管理的摩根标普港股通低波红利交易型开放式...

争议升级！特朗普起诉《华尔街日... 【环球时报驻美国特约记者戴润芝环球时报特约记者于文】美国总统特朗普18日起诉《华尔街日报》，索...

宋清辉：经常喜欢抛头露面的表演... 宗庆后事件以及其他案例的启示在于，在信息爆炸的时代，任何刻意塑造的“完美人设”都如同沙堡，经不起时间...

贴心服务赢得客户赞誉本报晋城讯近年来，阳城农商银行始终坚守金融为民初心，以“我为群众办实事”为行动指南，持续推进金融服...

正裕工业：拟定增募资不超4.5... 正裕工业晚间公告称，公司拟定增募资不超过4.5亿元，扣除发行费用后的净额用于正裕智造园（二期）项目及...

《2024年全国海水利用报告》... 中国日报7月19日电（记者赵磊）记者从自然资源部获悉，近日，该部海洋战略规划与经济司发布《2024...

重磅揭晓！2025国内舆情公关... 在数字化浪潮与全球化竞争交织的2025年，舆情公关已从“幕后灭火”跃升为品牌价值增长的核心引擎。今日...

“华尔街收购之王”KKR入局大... 《科创板日报》7月18日讯（记者徐赐豪），消费并购热升温。市场监管总局7月16日发布的《2025...

响应即时零售行业自律倡议！淘宝... 来源：新浪科技新浪科技讯 7月18日下午消息，响应即时零售行业自律倡议，淘宝、饿了么今日双双发文称...

和讯投顾韩东峰：大盘本周消化上... 今天上证指数继续小幅震荡攀升，本周市场状态可以用两句话来概括。第一，针对上周五的上影线，市场进行了消...

【泛函基础】变分推断详解（一）

目录