您好,欢迎光临本网站![请登录][注册会员]  

搜索资源列表

  1. Spark源码系列(七)Sparkonyarn具体实现

  2. 本来不打算写的了,但是真的是闲来无事,整天看美剧也没啥意思。这一章打算讲一下Spark onyarn的实现,1.0.0里面已经是一个stable的版本了,可是1.0.1也出来了,离1.0.0发布才一个月的时间,更新太快了,节奏跟不上啊,这里仍旧是讲1.0.0的代码,所以各位朋友也不要再问我讲的是哪个版本,目前为止发布的文章都是基于1.0.0的代码。在第一章《spark-submit提交作业过程》的时候,我们讲过Sparkonyarn的在cluster模式下它的main clas
  3. 所属分类:其它

    • 发布日期:2021-01-30
    • 文件大小:83968
    • 提供者:weixin_38637144
  1. Spark源码系列(一)spark-submit提交作业过程

  2. 折腾了很久,终于开始学习Spark的源码了,第一篇我打算讲一下Spark作业的提交过程。这个是Spark的App运行图,它通过一个Driver来和集群通信,集群负责作业的分配。今天我要讲的是如何创建这个Driver Program的过程。我们先看一下用SparkSubmit提交的方法吧,下面是从官方上面摘抄的内容。这个是提交到standalone集群的方式,打开spark-submit这文件,我们会发现它最后是调用了org.apache.spark.deploy.SparkSubmit这个类。我
  3. 所属分类:其它

    • 发布日期:2021-01-30
    • 文件大小:120832
    • 提供者:weixin_38723242