希望實現(xiàn)數(shù)據(jù)基礎設施的現(xiàn)代化并將Hadoop遷移到云平臺中嗎？以下是組織在數(shù)據(jù)遷移之前需要問的五個問題：

1.遷移的數(shù)據(jù)量是多少？

組織有幾種方法可以將少量數(shù)據(jù)傳輸?shù)皆破脚_，特別是在數(shù)據(jù)是靜態(tài)并且不變的情況下。其面臨的風險在于認為同樣的方法也適用于大量數(shù)據(jù)，尤其是當這些數(shù)據(jù)在遷移到云中時發(fā)生變化時。如果數(shù)據(jù)集很大并且是靜態(tài)的，則組織需要在開始遷移之前了解是否有足夠的時間和帶寬，或者是否有足夠的時間將其加載到批量傳輸設備上（如AWS Snowball或Azure data Box），將設備運送到云計算服務提供商那里進行上傳。

當遷移大量不斷變化的數(shù)據(jù)時，可能會出現(xiàn)真正的挑戰(zhàn)。在這種情況下，適用于小型數(shù)據(jù)集的方法不會有效，可能面臨系統(tǒng)停機，從而導致嚴重的業(yè)務中斷和數(shù)據(jù)遷移項目失敗。選擇通過網絡傳輸大量數(shù)據(jù)的組織，通常無法考慮為其他業(yè)務流程共享這一網絡資源。即使有專用的網絡通道也需要考慮到這一點，因為組織通常不會在影響其他用戶和進程的情況下使用所有帶寬進行數(shù)據(jù)遷移。

組織需要確保有適當?shù)臋C制來確保充分控制數(shù)據(jù)，以免對業(yè)務造成不良影響。在許多情況下，沒有進行控制就開始移動數(shù)據(jù)的組織最終會影響其他業(yè)務的運行，因此不得不停止遷移，并在工作日結束時重新啟動數(shù)據(jù)遷移。

2.在遷移過程中，如何在數(shù)據(jù)源和目的地之間保持一致的數(shù)據(jù)？

當組織需要遷移不斷變化的數(shù)據(jù)時（無論是接收新數(shù)據(jù)還是更新或刪除現(xiàn)有數(shù)據(jù)），都可以進行選擇。組織可以在數(shù)據(jù)源凍結數(shù)據(jù)直到遷移完成，或者允許數(shù)據(jù)在目的地繼續(xù)更改。在這種情況下，需要弄清楚如何考慮這些更改，以便在遷移完成后不會獲得已經嚴重過時的副本。

為了防止數(shù)據(jù)源和目的地之間的數(shù)據(jù)不一致，需要找到一種方法來識別和遷移可能發(fā)生的任何更改。典型的方法是執(zhí)行多次迭代以重新掃描數(shù)據(jù)集，并捕獲自從上次迭代以來的更改。這種方法使組織可以迭代到一致狀態(tài)。但是，如果組織有足夠大的數(shù)據(jù)量并且經常變化，則可能永遠無法趕上更改的步伐。這是一個相當復雜的問題，組織很多時候并沒有真正預料到這將對其資源和業(yè)務產生全面的影響。

另一種選擇是在數(shù)據(jù)源凍結數(shù)據(jù)，以防止發(fā)生任何更改。這無疑使遷移任務變得簡單得多。使用這種方法，無論是通過網絡連接還是通過批量傳輸設備上傳到新位置的數(shù)據(jù)副本，都與數(shù)據(jù)源中存在的數(shù)據(jù)一致，因為在遷移過程中不允許進行任何更改。

這種方法的問題在于，它可能導致系統(tǒng)停機并且業(yè)務可能中斷。這些系統(tǒng)是對業(yè)務至關重要的，而依賴它們的業(yè)務流程通常無法嘗試將其關閉或凍結很長時間。使用批量傳輸設備，可能需要幾天到幾周的時間才能完成傳輸。如果通過專用網絡連接傳輸數(shù)據(jù)，則取決于可用的網絡帶寬。為了在1GB的網絡鏈路上移動1PB的數(shù)據(jù)，則需要90天以上的時間。對于絕大多數(shù)組織來說，數(shù)天、數(shù)周或數(shù)月的停機時間和業(yè)務中斷是無法接受的。

3.將如何處理遷移過程的人工處理或任何中斷？

如果組織停止了數(shù)據(jù)遷移或發(fā)生了中斷，如何確定要從中恢復的點，以確切地知道已經正確遷移了多少數(shù)據(jù)。根據(jù)所使用的工具，是否有可能從那時開始恢復工作，或者組織是否必須從頭開始有效地重新開始該過程？這是一個復雜的問題，如果組織不得不意外中斷并繼續(xù)進行遷移，則采用人工處理流程會帶來巨大的風險和成本。人工同步處理數(shù)據(jù)的任何嘗試都會占用大量資源，成本高昂且容易出錯。嘗試在兩個環(huán)境中人工執(zhí)行這一操作都很困難，如果嘗試在多個環(huán)境中執(zhí)行這一操作，則要復雜得多。

在Hadoop中擁有深厚技術專長的組織將采用DistCp（分布式副本），并且希望利用這一免費開源工具來開發(fā)自己的自定義遷移腳本。然而，DistCp是為集群間/集群內復制而設計的，而不是為大規(guī)模數(shù)據(jù)遷移而設計的。DistCp只支持特定時間點的單向數(shù)據(jù)復制。它不能適應不斷變化的數(shù)據(jù)，并且需要對數(shù)據(jù)源進行多次掃描以獲取每次運行之間所做的更改。這些限制帶來了許多復雜的問題。組織最好使用新的云計算環(huán)境，將其資源用于開發(fā)和創(chuàng)新，而不是構建自己的遷移解決方案。

4.是否需要一個同時支持數(shù)據(jù)源和目標更改的混合云環(huán)境？

混合云的部署越來越受歡迎。這可能需要將公共云與私有云或組織的內部部署基礎設施一起使用。對于真正的混合云方案，更改必須能夠在任何位置發(fā)生，并且其更改需要傳遞到其他系統(tǒng)。而只考慮單向數(shù)據(jù)遷移的方法不支持真正的混合云方案，因為它們需要數(shù)據(jù)源和目的地的聯(lián)系。

當組織在超出兩個端點遷移數(shù)據(jù)時，這將變得更加復雜。人們看到越來越多的分布式環(huán)境中不僅有一個數(shù)據(jù)源和一個目的地，而且有多個云計算區(qū)域用于冗余目的，甚至采用多個云計算提供商的服務。為了避免將鎖定在單點解決方案中，組織需要能夠跨多個端點管理實時數(shù)據(jù)。在這種情況下需要一個解決方案，該解決方案可以跨多個環(huán)境復制更改，并解決任何潛在的數(shù)據(jù)更改沖突（最好在沖突發(fā)生之前解決）。

5.存在哪些導致數(shù)據(jù)引力驅動的應用程序依賴關系？

數(shù)據(jù)引力是指數(shù)據(jù)吸引應用程序、服務和其他數(shù)據(jù)的能力。數(shù)據(jù)量越大，吸引更多應用程序和服務所需要的引力就越大。數(shù)據(jù)引力通常還會驅動應用程序之間的依賴關系。

例如，可能有一個應用程序將另一個應用程序的輸出作為輸入，進而可以向更下游的其他應用程序提供數(shù)據(jù)。設計給定應用程序的業(yè)務部門或用戶將知道他們的輸入是什么，但他們可能并不知道每個人都在使用他們創(chuàng)建的數(shù)據(jù)。錯過這種依賴關系變得非常容易。當應用程序移至云平臺中時，其生成的結果數(shù)據(jù)將不會同步遣返回內部部署環(huán)境，并且其他工作流中的其他應用程序可能突然無法獲取當前的數(shù)據(jù)。

許多組織在嘗試將其數(shù)據(jù)遷移到云平臺時遭遇失敗。回答以上這五個問題可以在成功遷移或陷入數(shù)據(jù)遷移陷阱（可能會浪費組織的時間和資金，并影響業(yè)務運營）之間進行區(qū)分。
責編AJX