如何高大上的初始化变量和对矩阵每行求平均
创始人
2025-05-31 22:06:09
0次

好久没写博客了，去年下半年学雅思和申博，今年这几个月准备毕业论文，手忙脚乱的。

一、按行归一化

直接进正题，最近工作涉及到需要对一个 [s,d] ，大部分是0的矩阵tmp每行求每个值的平均（即归一化）
最开始想到的是
np.mean(H,1)
但它是把每行求成一个值了，得到的是[s,1]，而我需要得到的仍是[s,d]
后来我用了个笨办法，先求每行的和的一个向量cout[s,1]
然后扩展成[s,d]
最后相除。。。

tmp = torch.mm(self.H2, Mq)  # [s,d]
cout = np.sum(self.avr, 1).reshape(-1, 1) # [s,1]
weight = torch.tensor(np.tile(cout, self.hidden_dim)).to(self.device)
res = tmp / weight  # [s,d]

后来我发现可以用F.normalize实现

res = F.normalize(tmp.float(), p=1, dim=0)

其中p=1代表第一范式，即求平均，p=2代表第二范式，即求std标准差，描述各数据偏离平均数的距离的平均数
这里我用到的是p=1
这里给个示例

x = torch.tensor([0,1,0,2])
print(F.normalize(x.float(), p=1, dim=0))输出是：tensor([0.0000, 0.3333, 0.0000, 0.6667])

二、简易初始化

这也是我最近学到的，以前我初始化一个q维度的表示

Q_embedding = nn.Embedding(q + 1, hidden_dim)
a = torch.tensor(range(1, q + 1)).to(self.device)
Eq = Q_embedding(a)  # [q,d]

现在可以一行解决，就是用Q_embedding.weight,毕竟之前的方法也是为了拿出nn.Embedding中各个位置的权重

Q_embedding = nn.Embedding(q, hidden_dim)
Eq = Q_embedding.weight  # [q,d]

有一个需要注意的点就是nn.Embedding不需要q+1了。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：抓住2023年春夏服装9大流行趋势，将生意机会一网打尽

下一篇：【进阶数据结构】平衡搜索二叉树 —— AVL树

相关内容

热门资讯

雅江超级工程核心受益标的建材E... 受“雅江”1.2万亿超级工程利好催化，建材ETF（159745）今日开盘再度大涨近3%，昨日收盘也同...
刚一字涨停，又曝利好！ 【导读】刚因雅下水电概念涨停，中国电建公告上半年水电新签合同额暴增66% 中国基金报记者 南深 7月...
银行板块短线跳水，厦门银行跌超... 银行板块短线跳水， 厦门银行跌超4%， 渝农商行跌超3%， 西安银行、 江苏银行、 重庆银行、 民生...
【网金基金研究中心】壹佰金每周... 壹佰金一周基金市场动态 1、核心资讯一览 Wind数据显示，截至7月18日17时，A股共有1540家...
1.25万亿份，净申购！ 【导读】今年二季度基金整体净申购1.25万亿份，货基和债基为主力军 中国基金报记者 张燕北 公募二季...
骑士乳业及董事长党涌涛等被罚3... 具体来看，2024年，骑士乳业开展了豆粕、白糖、尿素等期货交易业务。截至2024年1月17日，骑士乳...
现货黄金突破3400美元关口 ... 财联社7月22日讯（编辑 牛占林）周一美盘交易时段，现货黄金突破3400美元/盎司，为6月17日以来...
摩根大通：人工智能和动量交易过... 市场中最具投机性的领域可能变得过于热门，且热度攀升速度过快。 摩根大通在周一发布的一份研究报告中警告...
“金融科技第一股”退市加速 记者丨曹媛 编辑丨孙超逸 “金融科技第一股”金融壹账通（6638.HK/OCFT.N）正加速退市。 ...
公募管理规模历史首破34万亿！ 公募基金2025年二季报披露完毕。 天相投顾数据显示，公募基金二季度末管理规模历史首次超过34万亿元...
京东旗下首家自营外卖门店“七鲜... 观点网讯：7月21日消息，京东集团旗下首家自营外卖门店“七鲜小厨”已于7月20日在北京正式开业，标志...
企业居民融资成本处低位 7月L... 7月21日，中国人民银行授权全国银行间同业拆借中心公布，1年期贷款市场报价利率（LPR）为3.0%，...
港股“双重优势”吸引QDII基... 本报记者 彭衍菘 随着公募基金二季报陆续披露，QDII基金的区域配置策略调整引发市场关注。Wind资...
夯筑起应对复杂变局的坚实依托 安六高速铁路上的动车组列车驶过贵州省安顺市普定县化处镇。新华社记者 陶亮 摄 ...
“强实名”仍一票难求？遏制技术... 暑期来临，演唱会、音乐节、话剧等演出活动热度飙升。无论手速多快，总是一票难求，让众多消费者叫苦不迭。...
上证红利回报指数上涨0.83%... 金融界7月21日消息，上证指数高开高走，上证红利回报指数 (上红回报，H50019)上涨0.83%，...
为啥股票与基金的走势相反？ 虚位以待！ 平姐姐摄于毛里求斯网红酒店 昨天的文章，标题就很明确，那就是《准备出击》，在半年报不少上...
美加密货币相关法案落地引发三连... 当地时间7月18日，美国总统特朗普在白宫正式签署《指导与建立美国稳定币国家创新法案》（简称《天才法案...
股市必读：湖南黄金（00215... 截至2025年7月21日收盘，湖南黄金(002155)报收于18.33元，上涨2.57%，换手率3....
四川发布六大红色旅游新线路 四川发布六大红色旅游新线路 “锦绣天府·安逸四川”之红色旅游央地媒体联动采访启动 “锦绣天府·安...