你好,游客 登录 注册 发布搜索
背景:
阅读新闻

[PDF]MapReduce模型下数据本地性负载平衡策略研究

[日期:2015-04-01] 来源:CNKI  作者: 陈一 [字体: ]

MapReduce模型下数据本地性负载平衡策略研究

大连海事大学 陈一

本文所提出的方法针对MapReduce作业过程中的Partition部分的分区算法进行调整和优化,设计实现了一个基于数据本地性的负载均衡策略(DALP)。通过合理的抽样,对作业数据进行预处理,分析出数据中各key的频数分布情况,然后利用分析的数据制定一个数据聚合策略(DA),该策略考虑了 key的数据大小,可以更加合理地为各Reduce节点分配数据,能有效地缓解集群节点的负载不平衡问题,提高了集群整体性能。


MapReduce模型下数据本地性负载平衡策略研究

收藏 推荐 打印 | 录入:574107552 | 阅读:
相关新闻       MapReduce 本地性负载平衡 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款