带你认识什么是redis主从复制集群的原理和部署
admin
2024-03-02 13:22:30
0

前言

最近在复盘redis的知识,所以本文开始希望介绍下redis的集群架构、原理以及部署;本文主要介绍redis的主从复制集群,包括其架构模型,原理,高可用等;

一、主从集群的介绍

  redis的主从复制集群为了提高效率降低客户端等待时长,主从间的数据同步采用的是弱一致性的策略,即客户端请求发到主机后,不论是否同步到备机,都认为此次请求是成功的,这样虽然效率上提高了,但是数据一致性却得不到保障;所以redis提供了一个min-replicas-to-write参数用来配置,至少有几台从机与主机保持连接时主机才能执行写入操作,一定程度上维护了数据的一致性;   其次,使用redis主从复制集群主要是为了解决单点故障问题,从机相当于主机的备份,且只提供读不提供写入功能,为的是在主机故障导致不能对外提供服务时从机能快速接替从而实现集群的高可用;而集群间主从的切换显然不能通过人工来完成,所以redis提供了一个哨兵的概念,顾名思义,哨兵即负责监控放哨,当主机不可用时迅速从从机中选出一个主机来,而这又涉及到以下两个方面;

  • 1、如何判断redis集群的master不可用 判断master不可用使用的是过半机制,即当哨兵集群中某一个哨兵发现master不可用时,会向集群其他哨兵发送is-master-down-by-addr指令询问master是否真的挂了,集群其他哨兵收到指令后会根据自身与master的连接情况判断是否真的挂了,然后给第一个哨兵作出响应,是否赞成master挂了;当超过集群数量一半加1的机器认为master挂了那么就投票通过,即认为redis集群的master真的挂了,需要进行选主操作;所以哨兵也应该是集群部署的,单个部署的话与主机是一对一的关系,不稳定性太大容易造成误判

  • 2、哨兵发现master挂了过后又是如何给redis集群做主从个切换的呢(哨兵的选主) 当第一个发现master挂了的哨兵收到其他哨兵的响应确认master挂了后,会继续发送一个请求,希望自己成为哨兵的leader来进行redis集群的主从切换操作,此时该哨兵被称为候选者;集群中的所有哨兵都只有一次投票机会,投给自己或者别人,需要注意的是只有候选者才能将票投给自己;哨兵之间的选主使用的是Raft算法

注意: 1、一般最先发现master挂了的哨兵会作为哨兵集群选主的候选者,会自动投给自己一票 2、如果同一时点有两个哨兵同时发现master挂了,那么就会有两个候选者,他们都投给自己一票,需要注意的是集群中的每个哨兵只有一次投票机会,所以两个候选者之外的哨兵肯定只会给两个候选者中的一个投票

二、主从集群的安装部署

我在安装步骤里做了一些笔记,大概也囊括了主从复制的大部分特性,并且也贴上了关键命令执行的图片,所以我就不拎出来单独介绍了

1、环境准备

  • 1、先在linux下安装redis,这里我就不贴教程了,我安装的是redis-5.0.5版本

  • 2、进入redis安装目录下的utils文件夹,执行 ./install_server.sh命令然后无脑回车,自动安装redis服务,做集群的话则第一遍默认执行6379,第二遍第三遍可以把端口号换成6380和81,这样我们主机里就有三个redis服务了

  • 3、安装完后执行service redis_6379 stop、service redis_6380 stop和service redis_6381 stop分别停掉这三台主机,因为后续演示我们需要前台阻塞运行查看日志

  • 4、在任意目录下创建一个文件夹testRedis,然后把/etc下的redis的配置文件复制过来,因为我们集群测试会给一堆配置,所以另外复制一份,不动系统本身的配置,命令如下mkdir testRediscd testRediscp /etc/redis/* ./

  • 5、编辑/testRedis下的三个配置文件,将

  • daemonize置为no,使redis服务前台运行,方便观察日志;

  • 注释掉 logfile /var/log/redis_6379.log使其前台打印

  • appendonly置为no,关闭aof使其只使用rdb,具体原因后面会分析

  • 上面的配置完成后,表示接下来启动的redis实例是会前台阻塞运行且不使用aof的持久化方式

  • 6、启动三个redis实例redis-server ~/testRedis/6379.confredis-server ~/testRedis/6380.confredis-server ~/testRedis/6381.conf

  • 7、启动三个reids-cli连接三个实例redis-cli -p 6379redis-cli -p 6380redis-cli -p 6381

  • 8、通过命令的方式使6380和6381作为slave追随6379

  • 老版本命令 slaveof 127.0.0.1 6379

  • 新版本(5.0)命令 replicaof 127.0.0.1 6379

  • 注意: 1、主从集群搭建完毕后,在6379set数据后80和81就能同步过去了,但是默认情况下80、81是不能写入的,会报 READONLY You can't write against a read only slave的错误;并且从机第一次追随主机时是会flush掉本身所有数据的,会全量同步主机的数据过来;

  • 9、模拟从机下线6381下线重启仍追随6379,不开启aof,命令如下: redis-server ~/testRedis/6381.conf --replicaof 127.0.0.1 6379 6381下线重启仍追随6379,同时开启aof,命令如下: redis-server ~/testRedis/6381.conf --replicaof 127.0.0.1 6379 --appendonly yes

1、由上面两个图可以看到,开启aof时从机(6381)是会先flush掉自身数据重新从master(6379)身上全量同步数据的,所以从效率上来说增量同步肯定优于全量同步的 2、从机下线重启后仍然追随原主机(即下线前做过主从同步)的话,如果从机重启时未开启aof,那么会做增量同步,否则则会进行全量同步;因为rdb中会记录原主机信息而aof不会;

  • 10、模拟主机下线 直接终止6379的进程,那么此时6380和81会报Error condition on socket for SYNC: Connection refused错误,并且均只能提供读服务不能提供写入能力,所以此时可以人为的让6380或6381使自己作为master,命令如下replicaof no one 然后再使另一个实例追随新的matster,这样redis集群又可以对外提供服务了,但是这种靠人为选主并切换终究不靠谱,所以就要用到哨兵模式,用来监控,当master挂了的时候能快速的响应,重新选主,使集群快速可用

  • 11、集群相关的配置replica-serve-stale-data yes 从机同步主机数据期间是否将自己原本的旧数据对外暴露,默认对外暴露replica-read-only yes 从机是否开启只读模式,默认从机只读repl-diskless-sync no 主机以何种方式将rdb文件同步给备机,yes表示主机生成rdb后直接通过网络IO将数据发给备机;no的话表示主机先将rdb通过磁盘IO落本机磁盘再通过网络传送给备机;默认为先落磁盘再发送给从机repl-backlog-size 1mb 增量复制的大小;即当从机同步完后主机会维护一个增量数据的队列,从机下次备份时可以拿着offset从队列里直接取增量数据;默认是1m,但是需要根据业务的写入量来确定该值大小;因为如果业务写入过多,从机下线恢复这段时间写入超过默认的1m的话,那么只使用增量同步的话就会丢失数据了min-replicas-to-write 3 可以理解成master能否执行写入操作的一个限制条件;当有指定个数的从机与主机保持连接时master才能执行写操作;默认为当有3个从机与master保持连接master才能执行写入操作,否则master不对外提供写入能力;这样虽然不能保证所有的从机都能同步到master的数据,但是可以保证至少有几个从机存活master才能执行写入操作,避免丢失过多数据;值为0表示关闭该限制min-replicas-max-lag 10 从机是否与主机保持连接的标准;默认为延迟小于10s的从机才被认为是健康的,是与主机保持连接的

三、哨兵集群搭建

  • 1、由于哨兵我们也搭建一个集群,所以创建三个哨兵的配置文件,在testRedis下执行以下命令

  • vi 26379.conf,按i输入:

  • port 26379

  • sentinel monitor mymaster 127.0.0.1 6379 2

  • 一个redis哨兵集群可以监控多个redis集群,所以mymaster表示redis集群的名称,后面跟redis集群master的ip和端口;最后一个数字2表示redis集群中几个实例通过后投票有效,即我们常说的过半加1后的那个值,因为我的redis集群只有三台机器,所以这个值为3/2+1=2

  • cp 26379.conf 26380.conf 复制26379的配置,修改26380.conf里的port为26380

  • cp 26379.conf 26381.conf 复制26379的配置,修改26381.conf里的port为26381

  • 2、启动redis集群中的各个实例,以6379为主6380和6381为slave追随6379

  • 3、启动哨兵集群

  • redis-server ./26379.conf --sentinel

  • redis-server ./26380.conf --sentinel

  • redis-server ./26381.conf --sentinel

  • 上图,哨兵配置文件只配置了redis集群的主机ip和端口,但是哨兵启动后却获取了整个redis集群所有实例的信息,是因为redis集群中从机追随主机时主机已经知道从机的信息了,所以哨兵通过获取主机信息既能获取从机的信息 另外,哨兵又是如何获取其他哨兵的信息的呢?这是因为其使用了redis本身的发布订阅功能;即在redis集群的master上发布各哨兵信息,哨兵们自行订阅,可以通过在redis任意实例上执行PSUBSCRIBE * 来观察哨兵之间的交互信息,如图:

  • 4、当redis集群的master下线后哨兵集群是会自动修改自身的配置文件,将sentinel monitor mymaster后面换成最新的master的ip加端口,并且还会在配置文件后追加识别到的redis的其他从机和其他哨兵信息,如图 至此,redis的主从复制集群介绍完毕,如有纰漏还望指正!

相关内容

热门资讯

掌上生财APP小投资高收益诱导...   掌上生财APP也是一家做贵金属交易的软件,现在这个市场上像类似的交易软件到处都是,这些软件究竟是...
成义烧坊酒业股份有限公司原始股...   原始股是拟上市企业直接向有助于企业发展壮大的特定主体定向发行的,不会采取公开宣传的方式吸引普通公...
智驾“物理AI第一股”Mome... MOMENTA-W港交所敲钟现场 图右为曹旭东 图源:时代财经 头顶“物理AI第一股”光环,Mome...
存储,利好来了!美光暴涨,宣布... 【导读】利好来了 中国基金报记者 泰勒 大家好啊,存储芯片迎来利好,今晚美光科技的股价暴涨。 消息...
重庆选择黄金回收门店有哪些参考... 对于重庆有闲置贵金属变现需求的市民而言,挑选一家靠谱的服务门店是保障自身权益的核心前提,不同人群的变...
《置身红内》接管大厂员工小作文... 六月的互联网,属于小作文。 钉钉有《置身事内》,小米有《置身米内》,美团有《置身团内》。大厂员工们仿...
留置、候查、再立案,业绩变脸雪... 图片系AI生成 7月9日,佳缘科技(301117.SZ)开盘即封死20cm跌停板,报收16.91元。...
原创 小... 6月28日,一份实名投诉材料被送达港交所上市部和香港证监会。 投诉人是陈浩,原小红书商业化华南直销负...
全线大跳水!刚刚,美伊谈判突变... 重大变数! 就在刚刚,美国总统特朗普表示,美伊谅解备忘录“已终结”。随后,美股期货、欧洲股市主要股指...
同创普润冲击IPO 带领江丰电子(300666)登陆资本市场九年时间后,59岁资本大佬姚力军欲再造一个IPO。上交所官网...
电商法迎首次大修,填补直播、跨... 作为平台经济领域的重要基础性法律,电子商务法在实施七年多后迎来首次系统性修改。 日前,市场监管总局、...
年内三度卸任!知名基金经理在管... 从管理规模一度接近500亿元到退出百亿行列,基金经理郑澄然仅用了5年时间。今年以来,他持续“减负”,...
同行都在欧洲爆单,格力在干嘛? 46摄氏度,这是2026年夏天欧洲多地刷新的高温纪录。西班牙、法国、德国相继发布高温红色预警,医院急...
CTI华测检测与丰宾电子落地全... (全球TMT 2026年07月09日讯)6月26日,丰宾电子科技股份有限公司与华测检测认证集团股份有...
87家城商行上榜《2026年度... 7月8日,英国《银行家》杂志(The Banker)发布2026年度全球银行1000强榜单,该榜单以...
银行小程序“瘦身”潮起!流量红... 当遍地开花的银行小程序加速退场,一场以存量深耕、协同经营为核心的渠道重构正在银行业上演。7月9日,北...
微信小程序开发需要多久?从3天... 微信小程序开发需要多久?每个商家在启动项目前最关心的问题之一。时间就是成本,时间就是商机。在长沙云中...
商品老兵:现在是抄底黄金的最佳... 黄金价格较高点回调逾25%,但在大宗商品资深投资人看来,这场调整恰恰是难得的布局窗口。 近日,在Ri...
股价提前涨停!603986,上... 今日盘后,兆易创新(603986.SH)公告称,预计2026年半年度归属于上市公司股东的净利润为69...
担忧AI投资热潮!美联储,还是... 北京时间7月9日凌晨,美联储公布今年6月联邦公开市场委员会(FOMC)政策会议纪要。纪要显示,随着通...