首页 > 试题广场 >

spark 中的Stage 的 Task 的数量由什么决定

[单选题]
spark 中的Stage 的 Task 的数量由什么决定 :(     )
  • Partition
  • Job
  • Stage
  • TaskScheduler

通过这个图我们可以看出job-stage-task的对应关系。首先job的划分是遇到action操作时,被发现后经过sparkcontext的runjob方法来到DAGscheduler,这个类中它会通过依赖关系划分出stage,一个stage是一个taskset,里面的每个task对应着rdd的一个分区。task可以理解为并行的分片。

发表于 2019-04-09 16:36:39 回复(0)