你好,游客 登录 注册 发布搜索
背景:
阅读新闻

[期刊]基于Hadoop Streaming的Last比对软件并行化的研究与实现

[日期:2014-07-15] 来源:计算机工程与应用  作者:董本志 李文浩 景维鹏 [字体: ]

基于Hadoop Streaming的Last比对软件并行化的研究与实现

董本志 李文浩 景维鹏

随着下一代测序技术的到来,单机版Last比对软件已经不能满足海量数据的处理需求。使用Hadoop Streaming技术将Last比对软件快速部署到云计算环境中,解决当前单机版Last比对软件处理大数据能力差的问题。通过自定义的基于NFS 文件系统的数据集切分方法和基于Partitioner的任务分配方式能够实现均衡高效的数据切分,并保证并行化粒度可控。实验结果表明,在保证与单机运行结果一致的情况下,这种方法能有效缩减软件运行时间,具有较高的加速比。


基于Hadoop Streaming的Last比对软件并行化的研究与实现

收藏 推荐 打印 | 录入:574107552 | 阅读:
相关新闻       Hadoop Streaming 软件并行化 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款