你好,游客 登录 注册 发布搜索
背景:
阅读新闻

[期刊]一种适用于 Hadoop MapReduce 环境的数据预取方法

[日期:2014-05-28] 来源:CNKI  作者:张霄宏 雒芬 贾宗璞 沈记全 [字体: ]

一种适用于 Hadoop MapReduce 环境的数据预取方法 

张霄宏 雒芬 贾宗璞 沈记全

MapReduce模型特有的数据依赖关系和任务执行特点导致reduce 任务在处理过程中引入大量的远程数据访问延时和不必要的资源竞争,降低了系统性能。为解决这一性能问题,本文提出了一种基于预调度的数据预取方法。此方法通过预取数据来隐藏由 reduce 任务引起的远程数据访问延时,通过控制与reduce 任务相关的资源分配来减少由其引起的资源竞争。此方法已在Hadoop-0.20.2中实现。实验结果表明,与缺省的Hadoop MapReduce 及Hadoop Online Prototype相比,该方法可将系统性能提高10 % 以上。


一种适用于 Hadoop MapReduce 环境的数据预取方法

收藏 推荐 打印 | 录入:574107552 | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款