首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
龚拓新
蚂蚁集团_研发工程师
发布于上海
关注
已关注
取消关注
@勇敢牛牛77不怕困难:
新技术 Leader把 Redis 可用原理讲的那叫一个透彻
1. Redis 分片策略 1.1 Hash 分片 我们都知道,对于 Reids 集群,我们需要通过 hash 策略,将 key 打在 Redis 的不同分片上。 假如我们有 3 台机器,常见的分片方式为 hash(IP)%3,其中 3 是机器总数。 目前很多小公司都这么玩,上手快,简单粗暴,但是这种方式有一个致命的缺点:当增加或者减少缓存节点时,总节点个数发生变化,导致分片值发生改变,需要对缓存数据做迁移。 那如何解决该问题呢,答案是一致性 Hash。 1.2 一致性 Hash 一致性哈希算法是 1997 年由麻省理工学院提出的一种分布式哈希实现算法。 环形空间:按照常用的 hash 算法来将对应的 key 哈希到一个具有 2^32 次方个桶的空间中,即 0~(2^32)-1 的数字空间中,现在我们可以将这些数字头尾相连,想象成一个闭合的环形。 Key 散列 Hash 环:现在我们将 object1、object2、object3、object4 四个对象通过特定的 Hash 函数计算出对应的 key 值,然后散列到 Hash 环上。 机器散列 Hash 环:假设现在有 NODE1、NODE2、NODE3 三台机器,以顺时针的方向计算,将所有对象存储到离自己最近的机器中,object1 存储到了 NODE1,object3 存储到了 NODE2,object2、object4 存储到了 NODE3。 节点删除:如果 NODE2 出现故障被删除了,object3 将会被迁移到 NODE3 中,这样仅仅是 object3 的映射位置发生了变化,其它的对象没有任何的改动。 添加节点:如果往集群中添加一个新的节点 NODE4,object2 被迁移到了 NODE4 中,其它对象保持不变。 通过对节点的添加和删除的分析,一致性哈希算法在保持了单调性的同时,还使数据的迁移达到了最小,这样的算法对分布式集群来说是非常合适的,避免了大量数据迁移,减小了服务器的的压力。 如果机器个数太少,为了避免大量数据集中在几台机器,实现平衡性,可以建立虚拟节点(比如一台机器建立 3-4 个虚拟节点),然后对虚拟节点进行 Hash。 2. 高可用方案 很多时候,公司只给我们提供一套 Redis 集群,至于如何计算分片,我们一般有 2 套成熟的解决方案。 客户端方案:也就是客户端自己计算 Redis 分片,无论你使用Hash 分片,还是一致性 Hash,都是由客户端自己完成。 客户端方案简单粗暴,但是只能在单一语言系统之间复用,如果你使用的是 PHP 的系统,后来 Java 也需要使用,你需要用 Java 重新写一套分片逻辑。 为了解决多语言、不同平台复用的问题,就衍生出中间代理层方案。 中间代理层方案:将客户端解决方案的经验移植到代理层中,通过通用的协议(如 Redis 协议)来实现在其他语言中的复用,用户无需关心缓存的高可用如何实现,只需要依赖你的代理层即可。 代理层主要负责读写请求的路由功能,并且在其中内置了一些高可用的逻辑。 你可以看看,你们公司的 Redis 使用的是哪种方案呢?对于“客户端方案”,其实有的也不用自己去写,比如负责维护 Redis 的部门会提供不同语言的 SDK,你只需要去集成对应的 SDK 即可。 3. 高可用原理 3.1 Redis 主从 Redis 基本都通过“主 - 从”模式进行部署,主从库之间采用的是读写分离的方式。 同 MySQL 类似,主库支持写和读,从库只支持读,数据会先写到主库,然后定时同步给从库,具体的同步规则,主要将 RDB 日志从主库同步给从库,然后从库读取 RDB 日志,这里比较复杂,其中还涉及到 replication buffer,就不再展开。 这里有个问题,一次同步过程中,主库需要完成 2 个耗时操作:生成 RDB 文件和传输 RDB 文件。 如果从库数量过多,主库忙于 fock 子进程生成 RDB 文件和数据同步,会阻塞主库正常请求。 这个如何解决呢?答案是 “主 - 从 - 从” 模式。 为了避免所有从库都从主库同步 RDB 日志,可以借助从库来完成同步:比如新增 3、4 两个 Slave,可以等 Slave 2 同步完后,再通过 Slave 2 同步给 Slave 3 和 Slave 4。 如果我是面试官,我可能会继续问,如果数据同步了 80%,网络突然终端,当网络后续又恢复后,Redis 会如何操作呢? 3.2 Redis 分片 这个有点像 MySQL 分库分表,将数据存储到不同的地方,避免查询时全部集中到一个实例。 其实还有一个好处,就是数据进行主从同步时,如果 RDB 数据过大,会严重阻塞主线程,如果用分片的方式,可以将数据分摊,比如原来有 10 GB 的数据,分摊后,每个分片只有 2 GB。 可能有同学会问,Redis 分片,和“主 - 从”模式有啥关系呢?你可以理解,图中的每个分片都是主库,每个分片都有自己的“主 - 从”模式结构。 那么数据如何找到对应的分片呢,前面其实已经讲过,假如我们有 3 台机器,常见的分片方式为 hash(IP)%3,其中 3 是机器总数,hash 值为机器 IP,这样每台机器就有自己的分片号。 对于 key,也可以采用同样的方式,找到对应的机器分片号 hash(key)%3,hash 算法有很多,可以用 CRC16(key),也可以直接取 key 中的字符,通过 ASCII 码转换成数字。 3.3 Redis 哨兵机制 3.3.1 什么是哨兵机制 ? 在主从模式下,如果 master 宕机了,从库不能从主库同步数据,主库也不能提供读写功能。 怎么办呢 ?这时就需要引入哨兵机制 ! 哨兵节点是特殊的 Redis 服务,不提供读写服务,主要用来监控 Redis 实例节点。 那么当 master 宕机,哨兵如何执行呢? 3.3.2 判断主机下线 哨兵进程会使用 PING 命令检测它自己和主、从库的网络连接情况,用来判断实例的状态,如果哨兵发现主库或从库对 PING 命令的响应超时了,哨兵就会先把它标记为“主观下线”。 那是否一个哨兵判断为“主观下线”,就直接下线 master 呢? 答案肯定是不行的,需要遵循 “少数服从多数” 原则:有 N/2+1 个实例判断主库“主观下线”,才判定主库为“客观下线”。 比如上图有 3 个哨兵,有 2 个判断 “主观下线”,那么就标记主库为 “客观下线”。 3.3.3 选取新主库 我们有 5 个从库,需要选取一个最优的从库作为主库,分 2 步: 筛选:检查从库的当前在线状态和之前的网络连接状态,过滤不适合的从库; 打分:根据从库优先级、和旧主库的数据同步接近度进行打分,选最高分作为主库。 如果分数一致怎么办 ? Redis 也有一个策略:ID 号最小的从库得分最高,会被选为新主库。 当 slave 3 选举为新主库后,会通知其它从库和客户端,对外宣布自己是新主库,大家都得听我的哈! 今天就讲这么多,我们下期见,大家都学废了么 ?
点赞 3
评论 1
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
11-28 17:58
清华大学 机械设计/制造
机械考研后的就业怎么样?
大家考研都是为了更好的就业,所以今天给大家分享一下机械考研后的就业情况。机械就业还是比较容易,只是说好工作难找。目前这个就业环境确实比以前更难。只能说尽量选择名校,不过也要根据自己的实力选择院校,比以前更好就可以。比如:某些企业前几年招聘要求是985/211院校,今年的招聘的要求是985院校。今年很多的企业的HC数量都比较少。硕士应届生起薪情况汇总:普通制造业:15-20K / 月(18-24 万 / 年)新能源 / 汽车:18-25K / 月,头部企业(特斯拉、比亚迪)可达 30K+,部分提供 15 薪机器人 / 自动化:20-30K / 月,算法岗尤高(如医疗机器人领域)半导体 / 高端装...
应届生进小公司有什么影响...
点赞
评论
收藏
分享
12-01 09:29
联想_后端开发部_语音算法工程师(准入职员工)
海康威视内推,海康威视内推码
岗位:武汉 嵌入式开发timeline:8.30 测评,10.9 一面,10.11 二面一面技术:自我介绍讲下实习经历平常怎么debug项目中有没有遇到什么问题,怎么解决的介绍一下学校经历了解数据结构吗?基本的数据结构?查找搜索效率?有什么方法可以提高效率?具体围绕数据结构问了很多RTOS,多任务操作反问:做存储固件的,具体的进来再分二面HR:北京线下,地点在北京研发中心,具体内容就是唠家常,一些HR面的基本问题销售工程师工作体验,总结累但成长很多。1.大家最先关注的就是HIK的工作压力,只能说体面厂没有辜负盛名!名不虚传!我来这边是销售岗,基本上每天都要差不多11点下班。因为销售不仅需要对接...
点赞
评论
收藏
分享
12-01 15:04
吉首大学 后端工程师
666亚信全挂
我说被亚信封杀了吗
投递亚信科技(中国)有限公司等公司6个岗位
点赞
评论
收藏
分享
昨天 11:21
飞鱼科技_美术设计部_角色原画(准入职员工)
飞鱼科技内推,飞鱼科技内推码
一面 35min经典自我介绍。长达25min的项目问题。(我PDF简历上贴了演示链接,但是面试官说打不开???)一个向量绕一个点怎么旋转?(这里我说我不会图形学,所以跳过了)那你了解点积和叉积吗,简单说说看看?应用场景?了解协程吗?协程是异步还是同步?项目里面有用到协程吗?你项目里面用到了接口吗?一个逻辑题:斗地主中的“飞机”怎么判断?你怎么设计数据结构来解决这个问题?那假设现在是有“癞子”的情况呢?(然后我BalaBala讲了一堆,看面试官最后的说法,大概说对了)。反问环节。请问贵公司对于鱼苗夏令营是一个怎么样的安排,参加夏令营的同学们会学习到什么知识?听说贵公司不止在研保卫萝卜,请问还有哪...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
后端秋招24场100%胜率的SSP,真的只是靠卷技术吗?
2.9W
2
...
面试官别再问 AI 应用啦,我是真没招了
9318
华为开奖交流
热聊中
3
...
本科秋招7SSP之旅
4713
4
...
27纯血双非第二段大厂实习oc
3931
5
...
关于毁约的注意事项
3710
6
...
想要去北京实习但家人不支持
3521
7
...
怎么劝女朋友找工作?
3473
8
...
老妈虽然舍不得,但是还是支持我去大城市
3329
9
...
浩鲸科技Java面经 已挂
3130
10
...
社招总结【Java后端拿下四家电商Offer回报牛客网友】
3130
创作者周榜
更多
正在热议
更多
#
为了去实习,我赌上了___
#
10645次浏览
99人参与
#
晒一晒你收到的礼盒
#
86788次浏览
420人参与
#
十二月请对我好一点
#
15934次浏览
236人参与
#
2025年终总结
#
3338次浏览
72人参与
#
uu们,春招你还来吗?
#
4322次浏览
38人参与
#
父母对你找工作是助力还是阻力?
#
7193次浏览
135人参与
#
一人推荐一个值得做的项目
#
5465次浏览
91人参与
#
高薪高压 vs 低薪wlb,你怎么选?
#
5999次浏览
82人参与
#
哪一瞬间让你觉得“这班不如不上”
#
5015次浏览
86人参与
#
工作前VS工作后,你的心态变化
#
8019次浏览
106人参与
#
工作中出现了XX情况正常吗
#
20025次浏览
172人参与
#
公司福利里最没用的一项是啥
#
4068次浏览
77人参与
#
回顾今年你干过的最“勇”的一件事
#
8315次浏览
119人参与
#
秋招有哪些公司要求提前实习
#
92055次浏览
495人参与
#
一觉醒来,秋招难度下降一万倍……
#
120976次浏览
768人参与
#
我的秋招总结
#
257236次浏览
4256人参与
#
实习打杂,要跑路吗
#
50124次浏览
318人参与
#
第一份工作能做外包吗?
#
84059次浏览
563人参与
#
滴滴工作体验
#
35370次浏览
145人参与
#
如何用一句话描述你的职业
#
28662次浏览
181人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务