国产欧美精品一区二区,中文字幕专区在线亚洲,国产精品美女网站在线观看,艾秋果冻传媒2021精品,在线免费一区二区,久久久久久青草大香综合精品,日韩美aaa特级毛片,欧美成人精品午夜免费影视

異構環(huán)境下基于雙重預取的Hadoop調度算法
DOI:
CSTR:
作者:
作者單位:

(常州大學(xué) 信息科學(xué)與工程學(xué)院,江蘇 常州 213000)

作者簡(jiǎn)介:

孫玉強(1956-),男,博士,教授,主要從事并行計算、軟件工程方向的研究。 通訊作者:顧玉宛,女,博士生,通訊聯(lián)系人,主要從事并行計算和圖像處理方向的研究。 [FQ)]

通訊作者:

中圖分類(lèi)號:

基金項目:

國家自然科學(xué)基金項目(11271057);江蘇省普通高校研究生科研創(chuàng )新計劃項目(SCZ1412800004)。


Scheduling Algorithm Based on Double Prefetching in Heterogeneous Hadoop Clusters
Author:
Affiliation:

(School of Information Science & Engineering, Changzhou University, Changzhou 213000,China)

Fund Project:

  • 摘要
  • |
  • 圖/表
  • |
  • 訪(fǎng)問(wèn)統計
  • |
  • 參考文獻
  • |
  • 相似文獻
  • |
  • 引證文獻
  • |
  • 資源附件
  • |
  • 文章評論
    摘要:

    Hadoop處理海量數據時(shí),無(wú)論是Map任務(wù)還是Reduce任務(wù)都需要耗費大量的時(shí)間傳輸數據,故提出一種基于雙重預取的調度算法;該算法通過(guò)估算節點(diǎn)上任務(wù)執行的進(jìn)度來(lái)預測Map任務(wù)的執行節點(diǎn),然后通知節點(diǎn)提前預取所需的數據,并且在Map任務(wù)完成的數量達到預定值時(shí),開(kāi)始為Reduce任務(wù)預取部分數據;由于在異構的環(huán)境下集群中節點(diǎn)的性能各不相同,為此采取了改進(jìn)的預測模型,以提高任務(wù)進(jìn)度判斷的準確性;實(shí)驗證明,本算法在作業(yè)響應時(shí)間等方面優(yōu)于現有的調度算法。

    Abstract:

    When Hadoop processing huge amounts of data, both in the Map tasks and Reduce tasks requires a lot of time to transfer data. This paper presents a scheduling algorithm based on double prefetching, the algorithm predicts the node which will execute the Map task by estimating the progress of running tasks, so that the node can prefetch required data for Map tasks. Moreover, the system can also prefetch the data for Reduce tasks while Map tasks are running. Due to the performance of the cluster nodes in heterogeneous environment are not identical, the algorithm adopts an improved prediction model to improve the accuracy of the judgment of task progress. Experiments show that the algorithm is superior to the existing scheduling algorithm with less response time.

    參考文獻
    相似文獻
    引證文獻
引用本文

孫玉強,陸勇,王文聞,李媛媛,顧玉宛.異構環(huán)境下基于雙重預取的Hadoop調度算法計算機測量與控制[J].,2016,24(9):172-175.

復制
分享
文章指標
  • 點(diǎn)擊次數:
  • 下載次數:
  • HTML閱讀次數:
  • 引用次數:
歷史
  • 收稿日期:2016-02-29
  • 最后修改日期:2016-04-25
  • 錄用日期:
  • 在線(xiàn)發(fā)布日期: 2016-09-28
  • 出版日期:
文章二維碼
辉县市| 如东县| 千阳县| 桂阳县| 紫云| 武宁县| 新野县| 醴陵市| 公主岭市| 焦作市| 洛宁县| 高雄县| 外汇| 清丰县| 万全县| 进贤县| 沂源县| 泾源县| 上饶市| 雷州市| 梧州市| 古浪县| 永康市| 印江| 普安县| 越西县| 容城县| 郯城县| 平谷区| 沂源县| 南部县| 荣昌县| 长葛市| 峨山| 炉霍县| 东乡| 汉阴县| 屯门区| 溧阳市| 盐亭县| 旬邑县|