牛客图书馆 > 读书笔记
  • 调优与测试(二)

    关键性考量 讨论运行Spark应用时可能会遇到的性能方面的常见问题,以及关于如何调优以获得最佳性能的一些小提示。分为在代码层面进行改动来提高性能和如何调优集群设定以及Spark的运行环境。 并行度 RDD的逻辑表示是一个对象的集合。在物理执行...
    君一时一迈 编辑于 2019-08-03 01:05:10
  • 第八章Spark调优与调试

    使用SparkConf配置Spark Spark中最主要的配置机制就是通过SparkConf类对Spark进行配置。当创建出一个SparkContext时,就需要创建出一个SparkConf实例。如下面例子: #在Python中使用SparkConf创...
    君一时一迈 编辑于 2019-07-26 22:30:52