秋招面试题 Flink

投票
辉哥,面试的时候问了一个问题,不知道怎么更好回答,flink如何做到高效数据交换

并行度
       Flink可以通过增大并行度和slot操作来扩展程序整体的处理数据能力。
分区策略
  Flink通过分区策略(如按键分区)将数据高效分配到不同算子,减少跨节点的数据交换。     
流水线(管道)传输:
  采用管道式数据传输(每个节点都会有阶段性计算和过滤 剔除无关数据),每个算子按需处理数据,减少网络开销,能自动调整数据流速,避免慢算子成为瓶颈。
动态资源分配
       Flink 具有动态资源分配的功能,能根据使用情况自动调整计算和存储资源的分配。可以确保资源的有效使用,提高整体性能,降低内存瓶颈。
Shuffle优化:
       Pipelined Shuffle:使得数据在交换过程中可以持续流动,避免了等待整个数据集收集完成。

容错机制:
  使用Savepoint\Checkpoint确保数据一致性和恢复时高效的数据交换。
#校招#  #数据仓库#  #数据人的面试交流地#  #面试时最害怕被问到的问题#
全部评论

相关推荐

不愿透露姓名的神秘牛友
昨天 11:35
程序员小白条:话太多,没实力和学历,差不多回答回答就行了,身份地位不一样
点赞 评论 收藏
分享
自学java狠狠赚一...:骗你点star的,港卵公司,记得把star收回去
点赞 评论 收藏
分享
05-21 15:47
门头沟学院 Java
浪漫主义的虹夏:项目有亮点吗,第一个不是纯玩具项目吗,项目亮点里类似ThreadLocal,Redis储存说难听点是花几十分钟绝大部分人都能学会,第二个轮子项目也没体现出设计和技术,想实习先沉淀,好高骛远的自嗨只会害了自己
点赞 评论 收藏
分享
评论
1
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务