线性代数 --- 投影与最小二乘 下(多元方程组的最小二乘解与向量在多维子空间上的投影)
创始人
2025-05-28 21:24:10
0次
在这篇文章中，我们把一元一次方程组ax=b的最小二乘问题，拓展到更为普遍的多元方程组Ax=b的最小二乘问题。之前的ax=b中的a是mx1矩阵，整个方程组只有一个未知数，a中只有一个列向量。现在我们要讨论的的方程组Ax=b有n个变量，矩阵A中有 n列。
此外，我们依然只关注方程组的个数m，大于未知数个数n的情形，也就是说观察点过多的情形。这样一来，方程组Ax=b大概率是不相容的/无解的，也就是说向量b大概率不在A的列空间C(A)内。
这里，我就不再从微积分的角度去计算最小二乘解
了，单单从线性代数的角度去分析方程组Ax=b。
假定Ax=b方程组为:
对应的矩阵A为：
其中 
方程组无解，说明b不在A的列空间上，与一元一次方程组ax=b不同的是，原来的列空间C(a)是一条直线，而这里的列空间C(A)是一个平面或者更高维度的一个子空间。要想找到方程组的近似解，需要找到把b投影到A的列空间上，得到投影p。且，误差向量e=b-p。最后，要么基于误差向量e垂直于A中的每一个列向量col(
)，要么是利用任何垂直于A的列空间的向量都属于A的左零空间，得到误差向量e属于A的左零空间N(A)，两种方式都能求得最优解。
1，根据任何垂直于A的列空间C(A)的向量都属于A的左零空间N(
)，且，误差向量e也垂直于C(A)。因此，误差向量e属于A的左零空间N(A)。
关山难越，谁悲失路之人；萍水相逢，尽是他乡之客。怀帝阍而不见，奉宣室以何年？
相关内容
热门资讯
监管出手碳酸锂期货跌停，“反内...
21世纪经济报道记者 董鹏 报道 交易所调控压力之下，商品期货市场明显降温。 继上周五涨停后，7月2...
山鹰国际：长江证券、建信基金等...
证券之星消息，2025年7月28日山鹰国际（600567）发布公告称长江证券、建信基金、大成基金于2...
越卖越亏？酒鬼酒等业绩暴跌！白...
2025年白酒中报预告季，分化与寒意扑面而来。 截至7月27日，超15家酒企预告揭晓：顺鑫农业（牛栏...
50万台按摩椅年入8亿，撑起一...
来源：直通IPO，文/王非 创业10年，这家公司正在冲刺IPO。 7月25日，智能按摩服务供应商福建...
深耕AI供应链 ，叮咚买菜“4...
文/王路 “在当下的竞争环境里，行业价格战非常常见，针对用户和流量的抢夺场景会越来越惨烈，但大家往往...
“国补”第三批资金已下达！以旧...
“部分购新，和大部分以旧换新品牌都有一定政策补贴。目前整体换新率在15%左右。”7月27日，北京某3...
四海我店与小红书本地生活达成战...
2025 年 7 月 28 日，国内领先的数字化积分生态平台四海我店与小红书本地生活宣布达成深度战略...
创始团队老东家出局，侯玉清空降...
文/瑞财经 杨宏彬 单建新、王伍、夏荣平及程洪卫是职场上的老搭档了。 他们曾为 李金龙工作很长时间。...
年内首家IPO暂缓审议：恒坤新...
界面新闻记者 赵阳戈 7月25日晚间，上交所官网披露科创板IPO公司厦门恒坤新材料科技股份有限公司...
永茂泰跌0.61%，成交额1....
来源：新浪证券-红岸工作室 7月28日，永茂泰跌0.61%，成交额1.43亿元，换手率3.32%，总...
董事长汪林朋被传坠楼身亡，居然...
汪林朋 截自居然智家官网 本报（chinatimes.net.cn）记者李凯旋 北京报道 7月27日...
北证50领涨市场 公募基金配置...
深圳商报·读创客户端记者 陈燕青 今年以来，北交所行情火热，北证50年内至今大涨四成，领涨大盘，公募...
立洲精密IPO李小平父女“退居...
瑞财经 王敏 7月25日，厦门立洲精密科技股份有限公司（以下简称“立洲精密”）发布关于公开发行股票并...
监管批复！樊斌就任曲靖宣威长江...
2025年7月28日，根据国家金融监督管理总局消息，《关于核准樊斌曲靖宣威长江村镇银行董事、董事长任...
香港第一金PPLI金评：关税与...
2025年7月25日 黄金行情分析 消息面： 近期影响黄金涨跌的基本面美国总统罕见造访美联储总部，与...
“设备+运营”双轮驱动 深耕热...
● 本报记者 张鹏飞 在“双碳”目标背景下，循环经济凭借“低消耗、低排放、高效率”的优势，展现出广阔...
创业板指收涨0.96% PCB...
截至7月28日收盘，沪指涨0.12%，深成指涨0.44%，创业板指涨0.96%。沪深两市全天成交额1...
挑战美债地位“时不我待” 城堡...
来源：环球市场播报 城堡投资一位经济学家表示，欧洲必须加大联合发债力度，以打造出能与美国国债相匹敌的...
华勤技术跌逾6% 股价创逾3周...
华勤技术(603296.SH)今日早盘一度跌6.11%至78.68元，股价创7月4日以来逾3周新低。...