首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
10-30 17:49
已编辑
吉林大学 算法工程师
美团HRAI团队,招实习生ing~~
岗位名称:HR数据挖掘岗(实习生) 工作城市:北京市 学历要求:大学本科及以上 经验要求:不限 岗位职责: 1. 参与HRAI底层数据体系建设,为AI技术在HR领域应用提供高质量数据,包括大规模数据开发、人才特征处理、训练/评测数据集构建等。 2. 负责HR相关数据分析及可视化,通过深入的数据分析与洞察,为公司HR和管理者的人才管理决策提供数据支撑。 3. 负责HR领域数据挖掘/机器学习算法研发,开发相应的智能化产品,提高人才管理决策效率。 4. 研究HR领域最前沿的AI大模型技术及产品,完成相关技术的开发并落地应用。 5. 与HR各个业务方协作,完成HRAI创新产品的探索和AICoding开...
投递美团等公司10个岗位
点赞
评论
收藏
分享
11-02 12:25
门头沟学院 前端工程师
字节财经前端一面面经
1.项目介绍 2.先聊一下项目,看你做了一个agent项目,介绍一下这个做什么的 3.用vue-flow 做可视化?那你们节点之间的连接逻辑是怎么做的?比如连线校验怎么做,支持动态规则吗 4.如果是一些拖拽、缩放这种高频操作下,肯定很卡顿,用哪些手段做性能优化呢 5. 那你刚提到16种节点,你这些节点之间的连接有没有做校验?比如判断节点类型、出入线数量限制这种 6. 你那个连接规则是怎么做的 7.虚拟化这部分是怎么判断哪些节点该渲染哪些不该渲染的 8. 那你缩放、拖拽这么频繁更新 DOM,是怎么节流的?你 throttle 控制的是哪个函数? 7. 用Web Worker?怎么划分主线程和 W...
查看16道真题和解析
点赞
评论
收藏
分享
10-10 00:14
门头沟学院 Java
Java无敌了
无敌了,家人们,学弟在找实习遇到的
程序员小白条:
20年架构师,无工资
点赞
评论
收藏
分享
10-16 16:32
北京邮电大学 Java
这素什么情况
二面完进录用评估了?
Java面试先知:
我也是和你一样的情况,hr 说等开奖就行了
点赞
评论
收藏
分享
11-05 20:13
迅雷_后端开发工程师(准入职员工)
阿里云内推,阿里云内推码
关注入职一个多月了,来分享一些landing的感受~ 整体说下:可以打85分,毕竟当时辞职就是想要走出舒适圈,的确也会有些不舒适,但基本上是因为阿里和网易风格有差别,需要一些时间适应 我所在的产品线整体风格不卷,加班不严重,周末大家都安排自己的生活,可以安心放下手机,也让我彻底放下“不秒回羞耻症” 阿里云团队规模太大,分工很细,人也很多,想搞清楚一件事情要对接好多好多人,要熟悉的流程也贼多,这个过程的确有些累,但我估计只要在大厂都会这样 感觉这边做事情自由度更高,换句话说,老板只要结果,过程怎么做自己想办法去 凡事凡人都爱讲价值。初次对接的其他部门的同事,也会直接问我,“你对业务的价值是什么”...
阿里云工作强度 598人发布
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
那个敢跟leader对线的实习生,现在怎样了
2355
2
...
上班还能尸体回温。。。
2074
3
...
数字马力一面(已挂)
1921
4
...
实习才知道原来攒钱这么不容易(给新人小白)
1864
5
...
数字马力 一面
1820
6
...
27找实习,简历求拷打
1550
7
...
字节业务中台后端开发一面
1407
8
...
嵌入式开始捞人的企业
1407
9
...
美团是WLB吗?说说我一年多的感受!
1350
10
...
面试官你是来骗方案了吧?休想
1338
创作者周榜
更多
正在热议
更多
#
同bg的你秋招战况如何?
#
170637次浏览
995人参与
#
扒一扒那些奇葩实习经历
#
124739次浏览
1094人参与
#
联影求职进展汇总
#
48885次浏览
319人参与
#
今年秋招是回暖还是遇冷
#
26566次浏览
170人参与
#
去哪儿求职进展汇总
#
144888次浏览
994人参与
#
你实习是赚钱了还是亏钱了?
#
25021次浏览
223人参与
#
360集团校招
#
17390次浏览
144人参与
#
毕业论文进行时
#
4309次浏览
67人参与
#
面对逼签的应对技巧
#
4677次浏览
28人参与
#
我来点评面试官
#
13107次浏览
98人参与
#
牛友的国庆旅行碎片
#
20250次浏览
124人参与
#
秋招开始捡漏了吗
#
70422次浏览
499人参与
#
找工作八股要背到什么程度?
#
14854次浏览
231人参与
#
用一句话形容你的团队氛围
#
15767次浏览
170人参与
#
工作后,谈恋爱还和学生时代一样吗?
#
40427次浏览
377人参与
#
上班后,才发现大学__白学了
#
13162次浏览
97人参与
#
你找工作是从容有余 or 匆忙滚爬?
#
9174次浏览
83人参与
#
你的领导最像哪种动物,为什么?
#
25129次浏览
136人参与
#
阿里云工作体验
#
32737次浏览
108人参与
#
职场破冰,你们都聊什么?
#
30188次浏览
154人参与
#
海康威视求职进展汇总
#
532945次浏览
3707人参与
#
帮我看看,领导说这话什么意思?
#
30346次浏览
131人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务