文件名称:
双鱼:在MapReduce中优化多作业应用程序执行
开发工具:
文件大小: 1mb
下载次数: 0
上传时间: 2021-03-15
详细说明:如今,许多MapReduce应用程序由相互依赖的作业组组成,例如迭代机器学习应用程序和大型数据库查询。 不幸的是,MapReduce框架并未针对这些多任务应用程序进行优化。 它不会探索作业之间执行重叠的机会,而只能独立安排作业。 这些问题极大地延长了应用程序的执行时间。 本文介绍了PISCES(具有关键链估计调度的管道改进支持),关键链优化(关键链指的是一系列作业,如果其中任何一个作业被延迟,它将使应用程序运行时间更长),从而为多职位申请。 PISCES扩展了现有的MapReduce框架,从而可以根据输入和输出目录动态地为当前正在运行的作业建立作业依赖项DAG,从而调度具有依赖项的多个作业。 然后,使用依赖项DAG,它提供了一种创新的机制来促进上游作业的输出阶段(仅Map作业中的地图阶段或Map-Reduce作业中的reduce阶段)和下游作业的map阶段之间的数据流水线化。工作。 这在MapReduce中的依赖作业之间提供了新的执行重叠,从而有效减少了应用程序的运行时间。 此外,PISCES提出了一种基于准确的关键链估计的新颖的关键链作业调度模型。 实验表明,PICSCES可以将系统
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.