首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
JavaEdge
华为_2012实验室_Java工程师
关注
已关注
取消关注
一起来交流学习吧~
@JavaEdge:
系统设计面试指南之分布式任务调度
1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待直到那条评论被交付给所有关注者。交付被委托给一个异步任务调度程序离线完成。 在分布式系统中,许多任务是在用户的单个请求的背景下运行。考虑Facebook、WhatsApp 或 Instagram 这样的热门系统有数亿用户。这些系统需要一个任务调度程序来处理数十亿个任务。Facebook 使用 Async 根据其用户的数十亿个并行异步请求来调度其所有任务。 Async 是 Facebook 自己的分布式任务调度程序,调度其所有任务。一些任务时间敏感,如应该运行的通知用户某项活动开始直播的任务。如果用户在直播结束后才收到通知就没意义了。某些任务可延迟,如向用户提出好友建议的任务。Async 根据适当的优先级调度任务。 2 需求 可用性:系统应高可用以调度和执行任务 持久性:系统收到的任务应持久化,不应丢失 可扩展性:系统应能每天调度和执行越来越多的任务 有限的等待时间:这是任务在开始执行之前需要等待的时间。我们不能在预期时间之后执行任务。用户不应该无限期地等待。如果用户的等待时间超过一定阈值,他们应该收到通知 3 组件设计 3.1 任务调度程序架构设计 ① Task Submitter(任务提交者) 接受任务。没有单一的任务提交者。相反,我们有一组接收越来越多任务的节点。 ② Database(数据库) 任务提交者接收的所有任务都存储在分布式数据库。使用关系数据库来存储: task IDs user IDs 所需资源 执行上限 客户端尝试总次数 延迟容忍度 ... 使用有向无环图(DAG)存储依赖任务的数据的图数据结构的非关系数据库。 ③ Batching and prioritization(批处理和优先级) 将任务存储在 RDB 后,将任务分批。优先级基于任务的属性,如: 延迟容忍度 或执行时间短的任务等。 将最高 K 优先级的任务推送到分布式队列,K限制可以推送到队列的元素数量。K值取决许多因素,如: 当前可用资源 客户端 或任务优先级 订阅级别 ④ Queue manager(队列管理器) 队列管理器在队列中添加、更新或删除任务。它跟踪我们使用的队列的类型。它还负责保持任务在队列中直到成功执行。如果任务执行失败,该任务将再次出现在队列。队列管理器知道在高峰时段、非高峰时段应该运行什么队列。 ⑤ Res
点赞 4
评论 0
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
2025-12-31 09:28
天津大学 ARM工程师
地平线:嵌软岗位 拷打
1.自我介绍2.freerots主要是微内核,主要有哪些组成部分,内部任务间的通信方式有哪些?3.freertos任务切换的过程,详细一点如何切换的,保存怎么恢复的?4.freertos任务有哪些不同的状态?高优先级任务被阻塞或者挂起,再执行低优先级任务5.用过单片机的哪些外设?6.PWM除了占空比之外还有什么要素?频率,周期,占空比7.蓝牙的底层协议?8.linux的进程间通信机制?9.进程间的调度方式?10.linux的内存管理?11.了解Linux的一些驱动么?12.对VFS的框架有了解么?13.常用的linux基础命令14.GCC编译一般分为那几部分?15.用过vim么,介绍vim常用...
点赞
评论
收藏
分享
2025-12-28 09:59
复旦大学 Java
校招善人,继续看简历,无偿
点赞
评论
收藏
分享
2025-11-08 01:32
山东大学 C++
这届秋招不太暖
秋招的温度,大家都感受到了吧?去年卡29,今年卡双九,对毕业生要求提前实习,这届秋招,真是凉得格外真实。🍃
哈哈哈,你是老六:
明年是不是卡清北
今年秋招是回暖还是遇冷
点赞
评论
收藏
分享
2025-11-22 14:58
门头沟学院 嵌入式工程师
能帮我看看简历吗
想找个寒暑假嵌软的实习,我是27届的,想着改成26届好找一点,但是投了很多都是已读不回,好兄弟们能帮我看看问题在哪吗,我不知道项目要做成怎么样才能找到
点赞
评论
收藏
分享
2025-12-28 09:43
哈尔滨理工大学 算法工程师
简单语法易错点
大小写/拼写错误:;易拼错关键字(如virtual误写vitural)。头文件/命名空间遗漏:(用vector忘<vector>、用sqrt忘<cmath>)。分号/括号遗漏:语句结尾漏写分号,if/for/while后代码块若有多行却漏加{}(单行可省,多行必加,否则逻辑出错);括号成对写,避免少写。变量相关错误:使用变量前未定义/未初始化。函数相关错误:函数声明与定义不一致(参数类型/个数不匹配)。
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
都 2026 年了,还在神话 AI Agent开发吗?
315
2
...
2025找工年终总结
252
3
...
Goodnight World!文科转码兜兜转转的那些年……
168
4
...
为什么你的实习是“无效实习”?又该如何做
129
5
...
我的秋招回忆录:从惨败到硕果的成长之路
126
6
...
简历求锐评,211硕士找实习
126
7
...
24h一面到oc速通字节!挑战全网最快timeline
98
8
...
简历求拷打
96
9
...
新年第一篇,关于实习背调…
94
10
...
27届暑期实习准备指南!!
79
创作者周榜
更多
正在热议
更多
#
实习没人带,苟住还是跑路?
#
17530次浏览
322人参与
#
春招前还要继续实习吗?
#
10543次浏览
114人参与
#
我们是不是被“优绩主义”绑架了?
#
12380次浏览
324人参与
#
对2025年忏悔
#
8215次浏览
155人参与
#
牛客2025仙途报告
#
49190次浏览
534人参与
#
应届生,你找到工作了吗
#
97306次浏览
593人参与
#
机械求职避坑tips
#
82474次浏览
534人参与
#
为了秋招你都做了哪些准备?
#
30059次浏览
528人参与
#
经纬恒润求职进展汇总
#
145889次浏览
1075人参与
#
毕业季,你想好怎么跟生活对线了吗?
#
266779次浏览
3863人参与
#
一人说一家双休的公司
#
11752次浏览
130人参与
#
每个月的工资都是怎么分配的?
#
81591次浏览
662人参与
#
面试官问过你最刁钻的问题是什么?
#
14105次浏览
123人参与
#
秋招被确诊为……
#
280178次浏览
1587人参与
#
秋招投递攻略
#
255964次浏览
2520人参与
#
AI时代,哪些岗位最容易被淘汰
#
25706次浏览
219人参与
#
2025秋招体验点评
#
86443次浏览
719人参与
#
实习在多还是在精
#
78025次浏览
494人参与
#
你收到了团子的OC了吗
#
1491334次浏览
11813人参与
#
职场新人生存指南
#
492308次浏览
9518人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务