存货库存模型升级始末 | 得物技术
创始人
2025-06-01 10:25:29
0

公司存在多种物料种类、不同类型的库存和价值管理不一,存货系统目前主要接入包装耗材、商品数据。目的是为了:

  • 管理出入库价格、数量、库龄等业务数据,便于管理部门追溯及财务管控,协助仓库提升存货和物料的管理能力。
  • 管理仓库物料及商品的费用价值,提升核算及业务的效率,实现业务信息一体化及凭证自动化。
  • 辅助计划或采购部门查看库存,为采购计划提供数据支撑。

存货系统先接入了包耗材数据,这类数据的特性是行数据不多,但每行数量很大。后接入了商品的库存,由于行数据量增长N倍以上 ,并且随着业务不断增长数据量越来越大,考虑到原有底层设计不能很好的支撑这么大的数据量,故有了这次系统的模型升级。

2面对的问题

2.1 数据承接点问题

原业务流程在数据承接上跨越了核心P0链路后才把数据落地到库存应用(造成了一定的技术风险,历史上也确实发生过一次技术故障 ,消费上游消息代码有bug,导致P0清结算链路数据下发出现阻塞,影响了部分结算单据的处理时效):

(1)数据落库在单据系统
(2)关联订单数据
(3)查询出未税单价
(4)组装后下发库存

重构前的设计,成本表存储逻辑:不管每天成本价有没有变化,都会维护一条记录;台账表存储逻辑:每天如果有出入库数据按照业务类型汇总+2条期初期末数据,如果没有出入库数据,只保存2条期初期末数据。从存储逻辑不难看出存储了很多冗余数据,且台账表期初期末数据以行的形式存储也是不合理的。

如下是例子数据

2.2.1 明细表(record)

每天出入库、调价单的数据

2.2.2 成本表(cost_price)

所有物料每天都需要计算一个成本价

2.2.3 台账表(ledger)

日台账:汇总当天明细数据、以及期初、期末价格和数量 月台账:汇总当月明细数据、以及期初、期末价格和数量

2.3 页面数据查询性能瓶颈

2.3.1 大盘&台账表分析:

通过大盘和台账表分析,在接入仓库商品数据后,页面查询接口耗时很高,接口性能存在问题

2.3.2 日/月进销存也面临同样的问题

3解决方案

3.1 数据承接优化

3.1.1 库存应用直接承接单据池落地信息表

3.1.2 具体实现过程

3.2 数据存储设计问题优化

3.2.1 简单示例

比如一个物料,3月1日的成本价为100元,后在3月30日又进一件成本价200元的相同物料,则我们库里的记录信息如下, 2条数据即可 , 【无须每日更新数据,只有当前物料当日有出入库、调价数据时,才需要插入当日最新数据】,

实际场景,当业务代码查询3月10日的成本价时,往前查询到03.01的数据即可

3.2.2 期望的数据存储样式

而不是30条数据 ( 03.02 至 03.29,这28条数据都是冗余的数据)

3.2.3 页面数据查询性能瓶颈解决方案

由于数据存储逻辑变更,只会存储有变动的数据,而进销存报表是每天都需要产出的不管数据有没有变化。结合当前业务逻辑以及数据量最后决定把数据同步到数仓,在数仓进行数据补全后,通过报表平台拉取报表信息。

弃用当前后管平台查询报表 转为使用报表平台拉取库存报表信息

数据同步流程如下:

报表平台具备生成类似于Excel的数据展示,以及任意维度查询信息的能力,同时也具备Excel导出的功能

4重构后的价值

4.1 量化业务价值:

每月节省核算以及审核时间约30小时,占核算组总月结时间比例为30%。

4.2 不可量化业务价值

  • 将仓库业务纳入存货系统,庞大数据量通过系统自动核算,输出表格,节约手工核算的时间,以及提升核算数据的准确性,解决无法通过表格实现的困境;

  • 提升核算质量的同时,可以完成更多库存、销售数据分析,如周转率分析,出入库渠道分析,减值计提等等。分析结果提升公司退货商品的管理以及库存管理。

  • 功能重构从基础数据、入库模型、调价单、成本计算、出库模型、重算、报表都做了升级,在数据接收、成本计算等过程中增加了校验逻辑和修复数据的功能。

4.3 技术价值

(1)技术价值:首次尝试了在线TIDB切换流程(包括数据复制、数据同步、数据比对、数据切流),积累了TIDB切换经验,给后续的TIDB迁移专项提供了经验沉淀。

(2)技术价值:把P0级的清结算应用里的部分功能迁移到库存应用中,解决了大流量的仓库数据下传至清结算应用的风险,实现了交易和非交易在应用级别的解耦和隔离。

(3) 团队价值:以赛代练,通过该项目培养了组内成员对于数仓平台和报表平台的实践和使用,拓宽了团队整体的技术栈,并积累了数据开发的对应经验,也落地了数仓平台和报表平台的操作使用文档(节省了后续团队成员的数据开发熟悉接入的成本)。

相关内容

热门资讯

不起眼的6个习惯,正在悄悄榨干... 当我们还在纳闷,自己为什么攒不下钱的时候,不如反观一下自己的消费习惯。 刚开工资没有几天,钱就不知花...
王思聪商业版图收缩史:从王健林... 这回咱们的"国民老公"王思聪又成焦点了,但这次的消息属实让人大跌眼镜! 他旗下公司持有的股权居然要...
比特币减半在即:区块链钱包资产... 2024 年 4 月比特币第四次减半已进入倒计时,回顾历史数据,前三次减半后比特币价格均迎来显著增长...
停牌!600721,拟易主 【导读】百花医药或易主,自12月29日开市起停牌 中国基金报记者 闻言 12月26日晚间,百花医药发...
A股突发!300867,600... 公告披露,圣元环保于2024年4月17日召开第九届董事会2024年第一次会议、第九届监事会2024年...
加速功能复合薄膜国产替代,这家... 功能复合薄膜材料研发商「清融科技」近日完成数千万元天使轮融资,由中科创星领投,常见投资、江阴市人才科...
马斯克,今年赚了地球上其他人一... 2025 年,得益于人工智能和科技行业的蓬勃发展,全球亿万富翁群体实现了创纪录的财富增长。 据《福布...
游戏支持政策相继推出,政策面积... 12月26日,游戏板块早盘窄幅震荡,游戏ETF(159869)现小幅微涨。持仓股中,恺英网络、名臣健...
稳定币 + 区块链钱包:日常支... 当我们在便利店扫码付款、给家人跨境转账,或是为线上课程买单时,支付方式正悄然迎来新变革。稳定币凭借与...
原创 美... 关于因为战争被冻结的俄罗斯资产,美国正在酝酿一个解冻、投资、分成的方案。收益对半,谈判对象为俄罗斯,...
服务2.2亿人,1200万信用... 隆冬时节,中国经济的深层肌理中正积蓄着蓬勃热力。    日前,中央经济工作会议定调“稳中求进、以进...
罗永浩押注的视频播客,赚不到钱... 图片由豆包AI生成 视频播客还是播客吗? 撰文/ 黎炫岐 编辑/ 李觐麟 排版/ Annalee 视...
沪指6连阳 超4100只个股上... 12月24日,A股三大指数震荡攀升,沪指收获六连阳。截至收盘,上证指数报3940.95点,涨0.53...
全球商用显示龙头再出发!视源股... 据港交所文件及公司官方信息,广州视源电子科技股份有限公司(以下简称“视源股份”,002841.SZ)...
巴西央行:11月银行贷款增长0... 巴西央行:11月银行贷款增长0.9%。 来源:金融界AI电报
打造绿色、共赢、有温度的即时零... 由金融界主办的“启航·2025金融峰会”于12月26日在北京成功举办,本届大会以“新开局、新动能、新...
三瑞智能IPO:核心产品营收增... 近日,南昌三瑞智能科技股份有限公司(以下简称“三瑞智能”)回复了审核中心意见落实函,并向深交所递交了...
原创 印... 美国对俄罗斯的制裁使得印度的炼油厂纷纷停止购买俄罗斯原油,导致俄罗斯不得不以折扣价出售原油,而中国则...
名酒集体开拓“散酒”背后,以“... 从川酒集团的“散酒铺子”,到口子窖的“口子酒坊”,再到古井贡酒的“打酒铺”,白酒企业在集体奔赴“品牌...
告别无效“内卷”:华帝以技术创... 近日,中央经济工作会议把“深入整治‘内卷式’竞争”列为明年经济工作的重点任务。过去,部分行业领域拼补...