首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
昨天 16:51
深信服_JAVA研发工程师(准入职员工)
深信服内推,深信服内推码
🌟工作内容与氛围: 我作为实习生能够真正地参与到了小组项目的迭代工作,不是简单地打杂工作。目前我已经接触到两个专题的需求迭代,一个由我完全负责,另一个和leader一起开始需求分析。在短短地两个月内,我对产品认知的八股文(产品经理能力、产品经理工作内容等)有了自己真正的感受和认识,不再是简单地文字理解。当然,实习工作也是对自己产品全方面能力的不断提升。 我导师不仅在工作上能及时得解答我的疑问,也会关心生活上我的不便,比如因为体检报告未出推迟入职,leader会主动关心我实习住宿的问题;电话沟通发现我声音和平时不一样,会主动询问我是否感冒不舒服,是否需要请假休息等。深信服的理念之一“简单有爱”...
深信服公司福利 851人发布
点赞
评论
收藏
分享
2025-12-31 18:42
复旦大学 Java
校招善人,日常看简历
点赞
评论
收藏
分享
2025-11-11 16:40
已编辑
门头沟学院 人工智能
真让我遇到了,笑了
之前以为这种情况都是网上开玩笑的,现在真让我遇到了
不知道怎么取名字_:
这个有点不合理了,相当于已经毕业了,但还是没转正,这不就是白嫖
点赞
评论
收藏
分享
2025-12-31 16:39
已编辑
门头沟学院 安卓
牛客运营们,我保证这是我最后一次消费烤肠了!
2025在牛客的仙境里面呆了很久,在线177天,发了200多篇帖子,评论4000多次,收集了很多牛客周边,认识了很多牛客内外(牛客的员工或者是通过认识的网友)的朋友,他们每个人或帅气或美丽(@牛客推流小助手她除外,她天天叫我猪八戒,一天不叫还让我表扬她)收集牛客周边发帖(联系创作小队长)除了固定的现金奖励,每周还有牛币奖励,然后还可以在保国(详情可以联系这小子,这小子企微是马大师(马保国头像,所以都叫他保国)@驼瑞驰_招募评论官版本)那里参加评论任务获取牛币奖励获取牛客精美的牛客周边(几乎把牛客商城兑换了遍)牛客面基篇 线上线下认识了牛客好多帅气魅力的牛客运营,线下见了几个运营,但是见面不怎么...
牛客2025仙途报告
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
🔥2026创作新起点:《新年启航计划》来袭,三大赛道等你来冲!
1.9W
2
...
一大波手撕正在靠近!
1.4W
3
...
百度java一面 28届的第一次大厂面试 感觉g了
1.2W
4
...
27前端鼠鼠快手二面
4842
5
...
拥抱人机共生,锻造不可替代的“金头脑”
4813
6
...
双非老鼠的悲惨秋招
3524
7
...
腾讯游戏后端一面
3332
8
...
塞翁失马,焉知非福
3169
9
...
面试手撕题总结
3057
10
...
uu们,面试的时候一定要大大方方的啊!
2794
创作者周榜
更多
正在热议
更多
#
去年的flag与今年的小目标
#
1984次浏览
61人参与
#
应届生应该先就业还是先择业
#
160829次浏览
810人参与
#
26年哪些行业会变好/更差
#
2847次浏览
49人参与
#
哪些公司在招寒假实习?
#
1421次浏览
26人参与
#
你都用AI做什么
#
2074次浏览
57人参与
#
卷__卷不过你们,只能卷__了
#
1246次浏览
27人参与
#
有深度的简历长什么样?
#
5225次浏览
98人参与
#
写论文的崩溃时刻
#
1418次浏览
31人参与
#
入职第一天
#
4216次浏览
48人参与
#
秋招你被哪家公司挂了?
#
998969次浏览
7664人参与
#
这个工作能去吗
#
99553次浏览
614人参与
#
一人分享一道面试手撕题
#
8087次浏览
424人参与
#
你不能接受的企业文化有哪些
#
2623次浏览
56人参与
#
为什么国企只招应届生
#
227667次浏览
1273人参与
#
研究所VS国企,该如何选
#
236817次浏览
1965人参与
#
跳槽时有那些注意事项
#
117518次浏览
585人参与
#
小米求职进展汇总
#
998127次浏览
6501人参与
#
机械应届生薪资要多少才合适?
#
35392次浏览
106人参与
#
机械人的薪资开到多少,才适合去?
#
158306次浏览
553人参与
#
非技术岗薪资爆料
#
471017次浏览
3015人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务