线性代数 --- 投影与最小二乘 下(多元方程组的最小二乘解与向量在多维子空间上的投影)
创始人
2025-05-28 21:24:10
0次
在这篇文章中，我们把一元一次方程组ax=b的最小二乘问题，拓展到更为普遍的多元方程组Ax=b的最小二乘问题。之前的ax=b中的a是mx1矩阵，整个方程组只有一个未知数，a中只有一个列向量。现在我们要讨论的的方程组Ax=b有n个变量，矩阵A中有 n列。
此外，我们依然只关注方程组的个数m，大于未知数个数n的情形，也就是说观察点过多的情形。这样一来，方程组Ax=b大概率是不相容的/无解的，也就是说向量b大概率不在A的列空间C(A)内。
这里，我就不再从微积分的角度去计算最小二乘解
了，单单从线性代数的角度去分析方程组Ax=b。
假定Ax=b方程组为:
对应的矩阵A为：
其中 
方程组无解，说明b不在A的列空间上，与一元一次方程组ax=b不同的是，原来的列空间C(a)是一条直线，而这里的列空间C(A)是一个平面或者更高维度的一个子空间。要想找到方程组的近似解，需要找到把b投影到A的列空间上，得到投影p。且，误差向量e=b-p。最后，要么基于误差向量e垂直于A中的每一个列向量col(
)，要么是利用任何垂直于A的列空间的向量都属于A的左零空间，得到误差向量e属于A的左零空间N(A)，两种方式都能求得最优解。
1，根据任何垂直于A的列空间C(A)的向量都属于A的左零空间N(
)，且，误差向量e也垂直于C(A)。因此，误差向量e属于A的左零空间N(A)。
关山难越，谁悲失路之人；萍水相逢，尽是他乡之客。怀帝阍而不见，奉宣室以何年？
相关内容
热门资讯
企业IP打造指南：小公司低成本...
小公司做企业IP，不是为了装门面，而是让客户在没见到你之前，就能通过内容知道你是谁、你解决什么问题、...
官方：赵心童入选世界斯诺克名人...
北京时间5月8日消息，世界斯诺克巡回赛（WST）今日正式公布了2025/26赛季年终奖项及名人堂更新...
小灰熊AI学员王锋：希望能跟上...
35了，老程序员了。 从进入互联网行业到现在，其实已经做了很多年移动端开发。最早那几年，安卓行业发展...
原创 2...
2026年全国两会把稳定房地产市场列为重点工作，政府工作报告明确提出因城施策控增量、去库存、优供给。...
一年翻倍，六年未归——徽商银行...
文：向善财经 今年的港股市场，与A股市场出现了明显的分化。 A股这边，科技板块在AI浪潮中热闹非凡；...
古井贡酒2025：在行业深度调...
以“稳”为底、以“新”为翼。 文/每日财报 杜康 在行业库存高企、价格倒挂的背景下，当多数酒企在为...
好上好8408万收购鼎瑞芯加码...
5月7日晚，好上好(001298.SZ)抛出一份收购公告，拟以8408万元现金收购深圳市鼎瑞芯科技有...
全面大撤离！李嘉诚英国“套现”...
突发，李嘉诚又卖了。 这次，套现了455亿。 金额不少，但更值得关注的是透露着不同寻常的信号。 因为...
油气价格上涨加剧法国一季度贸易...
据新华社，法国海关7日发布的数据显示，受中东局势推高国际油气价格影响，法国今年第一季度贸易逆差扩大至...
昆仑芯启动科创板IPO上市辅导...
5月8日，据证监会官网显示，昆仑芯(北京)科技股份有限公司于2026年5月7日正式启动科创板上市辅导...
贵州茅台酒股份有限公司关于回购...
来源：上海证券报 证券代码：600519 证券简称：贵州茅台 公告编号：临2026-016 贵州茅...
百度昆仑芯启动科创板上市辅导，...
5月8日，证监会官网显示，昆仑芯（北京）科技股份有限公司 （下称“昆仑芯”）于2026年5月7日正式...
滕州信华的承压时刻：罚单、失信...
2026年4月末，滕州信华美元债单日跌近2%，关联方被列“老赖”。半年前，这家AA+城投曾因非市场化...
002808，或被终止上市！
【导读】因触及财务类退市指标，*ST恒久或被终止上市 中国基金报记者 李智 又一A股或被终止上市。 ...
院士团队掌舵，溧阳这家企业已完...
近日，溧阳天目先导电池材料科技有限公司（下称“天目先导”）官宣完成B轮融资，投资方包括知卓创新资本、...
工商银行全新推出“工盈研选”品...
深圳商报·读创客户端记者 詹钰叶 近日，工商银行重磅推出「工盈研选」基金销售服务品牌，以客户盈利为核...
和讯信息胡云龙：逼空走势，周五...
今天市场出现逼空走势，场内投资者因持有筹码而尤为受益。五一前布局的投资者当前收获颇丰。然而，随着上证...
今晚，油价上调！
4月21日国内成品油价格下调以来，国际市场原油价格剧烈震荡，前期大幅上涨后近日有所回落，本次调价的前...
南方东英旗下两倍做多海力士，成...
【导读】南方东英旗下两倍做多海力士，成为全球最大的个股杠杆及反向产品 中国基金报记者 伊万 人工智能...
原创 金...
黄金，这东西从古至今就没离开过中国人的生活。从老辈人压箱底的小黄鱼，到如今年轻人结婚绕不开的“三金”...