1 引言

在学习机器学习和深度学习的过程中，基础的数学知识粗略的可以分为两大类：矩阵论和概率论，基本都逃不过这两个框架（除了优化问题）。而在概率论中尤其以变分推断用的最为广泛，无论是最新的深度学习算法还是机器学习基础，各种知识方法总是存在着对变分推断这一部分知识的交叉。因此掌握变分推断是十分重要的（模型要用啊），所以才有了这篇文章，其中内容图片多有参考他人文章，相关参考来源一并在参考文献中给出链接。

2 前置知识

2.1 隐变量

2.2 先验分布

2.3 后验分布

2.4 边缘分布

2.5 贝叶斯公式

3 简单理解变分推断

首先，我们的原始目标是，需要根据已有数据推断需要的分布 ppp；当 ppp 不容易表达，不能直接求解时，可以尝试用变分推断的方法，即，寻找容易表达和求解的分布 qqq，当 qqq 和 ppp 的差距很小的时候，qqq 就可以作为 ppp 的近似分布，成为输出结果了。在这个过程中，我们的关键点转变了，从“求分布”的推断问题，变成了“缩小距离”的优化问题。
在这里插入图片描述

黄色的分布是我们的原始目标 ppp，不好求。它看上去有点像高斯，那我们尝试从高斯分布中找一个红qqq和一个绿qqq，分别计算一下 ppp 和他们重叠部分面积，选更像 ppp 的 qqq 作为 ppp 的近似分布。上面是对变分推断的一个直接理解，距离深入理解模型还有距离。

参考文献

[1]如何简单易懂地理解变分推断(variational inference)？
[2]变分推断的本质：用一个简单分布拟合另一个复杂分布
[3][贝叶斯统计] 2 隐变量模型，随机变分推断和VAEs
[4]【机器学习】高斯混合模型详解

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：今起，中国免签国家+5！

下一篇：Pytorch中的torch.utils.data模块

热门资讯

机构警告AI芯片热潮风险，超威... 5月7日，据央视财经，隔夜超威半导体公司(AMD)股价飙升近19%，带动AI芯片热潮持续升温。AMD...

银行员工转走储户1800万最新... 银行员工转走储户1800万最新进展：2名储户已收到银行全部款项

原创中... 1994年，安徽省的经济格局曾发生过一次戏剧性的转折。在那一年，一座名为安庆的城市，其国内生产总值（...

昆都仑区：政策“蓄力”消费焕新 “一台5000多元的空调，叠加‘国补’和商场的以旧换新活动，能优惠1000元左右，旧机还能免费上门拆...

乐悦置业竞得佛山顺德乐从镇一商... 观点网讯：5月6日，佛山市顺德区乐从镇一商业地块成功出让，由广东省乐悦置业有限公司竞得，乐从南区·邻...

原创亦... 《爱情没有神话》这部剧，一开始的命运颇为多舛，经历了几次撤档的波折后，终于在观众面前亮相，但其首播的...

美联储34年最大分歧叠加油价飙... 美联储按预期维持利率不变，但内部出现34年来最严重分歧，叠加布油创2022年6月以来新高，美债遭抛售...

支付宝消费券回收后，资金是否支... 摘要：支付宝消费券回收变现后，资金能否直接转入信用卡？本文解答到账方式的相关规则，帮助用户了解资金...

中医介绍5个化痰穴位！收藏这篇... 很多人忽略了“痰”的危害，觉得咳几下就没事，殊不知，肺里的痰长期堆积，只会一步步加重身体负担。中医...

黄金平台“杰我睿”涉嫌经济犯罪... 红星资本局5月7日消息，深圳水贝知名金店“杰我睿”兑付困难事件有了新进展。日前，深圳市公安局罗湖分局...

多地出台购房新政促楼市升温记... 今年的“五一”假期，伴随着多个城市楼市新政密集落地，在叠加市场信心持续修复的作用下，房地产市场热度持...

谁是五一“吸金王”？这5座城市... 来源：市场资讯（来源：21城市观）哪座城市成为“五一”假期的大赢家？图源：摄图网作者｜赵晓...

“低招低裁”格局稳固劳动力市场... 智通财经APP获悉，美国上周初请失业金人数在经历前一周回落至近几十年来最低水平后出现小幅反弹，表明尽...

刚刚，纳指冲破26000点，创... 记者|杜宇编辑|何小桃杜恒峰校对|陈俊杰 5月7日晚，纳斯达克综合指数向上触及26000点，创...

美股芯片股，集体下跌新闻荐读 5月7日，美股三大指数小幅高开，道指涨0.3%，纳指涨0.15%，标普500指数涨0.09...

DeepSeek 估值 450... DeepSeek 首轮融资曝光，估值 450 亿美元据《金融时报》报道，多家机构目前正寻求领投 D...

焦点复盘沪指缩量收涨录得日线六... 财联社5月7日讯，今日100股涨停，31股炸板，封板率76%。金螳螂12天10板，中国长城、福达合金...

全球的“聪明钱”正集体涌入这7... 来源：虎嗅APP 当我们在谈论美股的“科技七姐妹”（Magnificent Seven）时，一场更...

单季亏超10亿元、偿付能力告急... 2026年一季度，幸福人寿保险业务收入97.38亿元，同比增长17.31%，跑赢了行业平均增速。但净...

债券市场“科技板”开闸一年：浙... 2025年10月29日，对绍兴越城区的芯联集成而言颇为特别。这家为汽车、新能源、工控、家电等领域提供...

【泛函基础】变分推断详解（一）

目录