首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
07-31 12:00
上海大学 硬件开发
韶音科技
勇敢牛牛不怕困难,希望能过初筛
投递韶音科技等公司10个岗位
点赞
评论
收藏
分享
07-30 18:08
中南林业科技大学 产品经理
科大讯飞-飞凡计划来约面试啦
26届秋招提前批,科大讯飞-飞凡计划来约面试啦,秋招第2个一面✌️
科大讯飞一面309人在聊
点赞
评论
收藏
分享
06-19 22:53
江西应用科技学院 Java
求实习
大三找实习已老实,boss全是未读+已读不回,来个好心人把我捞走吧
积极的小学生不要香菜:
你才沟通多少,没500不要说难
点赞
评论
收藏
分享
06-24 11:49
门头沟学院 Java
找实习真的好累好累
我是27届双非,今年4月底开始第一次投简历,后来五月份因为学校期末考试没投,到端午节之后才又开始投,投了一周后开始有面试,从上周开始到现在应该面了有十家左右,最后确定了一家浙江做ai的小公司,从刚刚开始的一有面试都得好几天准备到现在根本不想面。想了一下,自己开始找实习之后,感觉很焦虑,估计是牛客刷多了,感觉都是27届进大厂了,几乎没有睡过舒舒服服的懒觉了都是每天7点自然就醒了,九点就开始在BOSS上投,今天又有一家公司给我打电话约明天早上十点面试,我也不太想面,因为都是小公司没啥差别,感觉自己离那些牛人都太远了,但是已经好久都没打过代码了,帮室友写个课设都磕磕绊绊的😅,不知道大家有没有这种感觉。附一个我的简历吧,大家可以给我提提意见,分布式有什么好课程嘛😕
逆流河上万仙退:
27届进大厂的要么是客户端或者前端 要么是92✌️ 普通学历的应该很少很少很少 不需要太焦虑一些无法改变的东西 慢慢来吧
为了找工作你投递了多少公...
点赞
评论
收藏
分享
不愿透露姓名的神秘牛友
07-29 11:57
浪潮提前批挂
投递浪潮等公司10个岗位
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
都是 dirty work,为什么别人的简历上就能言之有物🤔
2.1W
2
...
虾皮后端一面(已挂)
4141
3
...
虾皮秋招一面
4117
4
...
百度提前批,三面被推迟一周,喜提秋招第一凉
3702
5
...
7.30滴滴提前批一面凉经
3248
6
...
百度提前批 三面
3175
7
...
干活最少的实习生因为长得漂亮转正了
3097
8
...
他拿大厂SSP Offer打牌是什么概念啊?25届双非之光
3057
9
...
QQ提前批一面凉经
2603
10
...
7.30百度提前批一面
2502
创作者周榜
更多
正在热议
更多
#
你遇到最难的面试题目是_
#
15119次浏览
193人参与
#
反问环节如何提问
#
95513次浏览
1951人参与
#
中兴秋招
#
203736次浏览
2280人参与
#
简历上的经历如何包装
#
24394次浏览
728人参与
#
如何看待offer收割机的行为
#
815507次浏览
6088人参与
#
你最讨厌面试问你什么?
#
25100次浏览
282人参与
#
秋招最大的收获是什么?
#
38616次浏览
323人参与
#
我的实习收获
#
90887次浏览
1038人参与
#
26届的你,投了哪些公司?
#
37114次浏览
428人参与
#
滴滴求职进展汇总
#
233343次浏览
2116人参与
#
作业帮求职进展汇总
#
57012次浏览
376人参与
#
初创公司值得加入吗?
#
27324次浏览
194人参与
#
我对___祛魅了
#
43466次浏览
410人参与
#
数字马力求职进展汇总
#
184453次浏览
1500人参与
#
你跟室友的关系怎么样?
#
6082次浏览
94人参与
#
什么样的背景能拿SSP?
#
31503次浏览
201人参与
#
工作中哪个瞬间让你想离职
#
60681次浏览
545人参与
#
和同事相处最忌讳的是__
#
21182次浏览
217人参与
#
去年你投递实习了吗?
#
22889次浏览
331人参与
#
如何快速融入团队?
#
14895次浏览
182人参与
#
机械人的金三校招总结
#
36225次浏览
461人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务