TensorFlow在推荐系统中的分布式训练优化实践
admin
2024-01-25 02:25:20
0次

美团内部深度定制的TensorFlow版本，基于原生TensorFlow 1.x架构与接口，从大规模稀疏参数的支持、训练模式、分布式通信优化、流水线优化、算子优化融合等多维度进行了深度优化。在推荐系统场景中，分布式扩展性提升10倍以上，单位算力性能也有显著提升，并在美团内部业务中大量使用，本文介绍了相关的优化与实践工作。

  • 1 背景
  • 2 大规模训练优化挑战
    • 2.1 业务迭代带来的挑战
    • 2.2 系统负载分析
  • 3 优化实践
    • 3.1 大规模稀疏参数介绍
    • 3.2 分布式负载均衡优化
    • 3.3 通信优化
    • 3.4 延迟优化
    • 3.5 单实例PS并发优化
    • 3.6 单位算力吞吐优化
  • 4 大规模稀疏算法建模
  • 5 总结与展望

1 背景

TensorFlow（下文简称TF）是谷歌推出的一个开源深度学习框架，在美团推荐系统场景中得到了广泛的使用。但TensorFlow官方版本对工业级场景的支持，目前做得并不是特别的完善。美团在大规模生产落地的过程中，遇到了以下几方面的挑战：

  • 所有参数都是用Variable表达， 对于百亿以上的稀疏参数开辟了大量的内存，造成了资源的浪费；
  • 只支持百级别Worker的分布式扩展，对上千Worker的扩展性较差；
  • 由于不支持大规模稀疏参数动态添加、删除，增量导出，导致无法支持Online Learning；
  • 大规模集群运行时，会遇到慢机和宕机；由于框架层不能处理&#x
词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：联赛杯-切尔西总比分6-2米堡晋级决赛 帕尔默双响恩佐迪萨西破门 切尔西加时赛2-1战胜帕尔梅拉斯 切尔西晋级联赛杯4强

下一篇：被乌军导弹击落？载65名乌战俘的俄运输机坠毁 飞机在空中着火并开始解体 俄运输飞机被击落事件 俄罗斯运输机再次被击落事件

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期... 　　蜻蜓订购APP以"投资平台"名义对外宣传，主打贵金属期货（订购）交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗... 　　近期，有投资者反映，“悟空订购APP”等平台以白银、贵金属订购为名，宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局，平... 　　“小赢淘金”之流，最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗... 　　警惕！八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易！　　...
智易购APP贵金属订购交易骗局... 　　很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传，很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局... 　　喜玛银庄APP白银、铂金“现货订购”骗局警示：无资质平台涉嫌非法期货交易，投资者爆仓后如何维权？...
吉鑫乐享APP炒贵金属订购交易... 　　近期，多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损，甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局，... 　　“易掘金”的APP它打着“高收益、灵活投资”的旗号，宣称通过“商品订购”就能轻松赚钱，吸引了不少...
在大吉订购APP订购交易亏损被... 　　近期，不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损... 　　许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道，殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏... 　　白银、贵金属或其他商品类投资，除国家批准的正规期货交易场所及持牌期货公司外，市面上大量第三方交易...
铂银掘金APP无资质的违规平台... 　　铂银掘金等平台的投资者，往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引，进而下载...
八方淘金APP订购交易不合规，... 　　“八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名，实际采用高杠...
在指尖订购APP订购商品亏损被... 　　指尖订购APP这类平台，表面是“订购交易”，实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易... 　　市面上打着“现货投资”“贵金属交易”旗号的APP并不少，但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易... 　　易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号，实则通过不合规的交...
大浪淘金APP白银订购亏损被骗... 　　大浪淘金APP最隐蔽的套路，在于其完全封闭的内盘交易系统。表面上，它宣称与国际贵金属市场接轨；实...
一品好购APP上订购白银出现亏... 　　一品好购APP原名“一品订购”，运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗... 　　九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告，用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规... 　　当前，市面上大量所谓的“现货商城订购”交易软件，早已偏离了正常的实物商品买卖，演变为高杠杆、高手...