分布式鍵值存儲系統(tǒng)高效能數(shù)據布局技術研究.pdf

1、分布式鍵值存儲系統(tǒng)是最常用的分布式存儲系統(tǒng)之一，目前被廣泛部署在大規(guī)模數(shù)據中心中。然而，大規(guī)模數(shù)據中心的能耗是一個亟待解決的問題。其中，服務器的能耗占到了整個數(shù)據中心的大部分能耗。隨著網絡數(shù)據量的持續(xù)增加，數(shù)據中心對服務器的需求量會越來越大。因此，服務器能耗已經成為企業(yè)數(shù)據中心的一個嚴重問題。
　　目前，很多節(jié)能技術采用關閉存儲設備或者服務器的方式進行節(jié)能。但是，在分布式鍵值存儲系統(tǒng)中關閉服務器是極具挑戰(zhàn)性的，因為系統(tǒng)可靠性可能會

2、降低。關閉存儲設備帶來的可靠性問題已經成為節(jié)能研究的關注重點。
　　另外，由于固態(tài)盤在性能和能耗方面的優(yōu)勢，以及基于NAND閃存的固態(tài)盤存儲容量的持續(xù)增加和價格的降低，越來越多的固態(tài)盤被配置到服務器存儲系統(tǒng)中作為緩存或者存儲設備。但是，基于閃存的服務器之間的I/O負載是不均衡的，這種不均衡會導致閃存磨損不均衡。磨損不均衡會對整個鍵值存儲集群的可靠性、性能以及壽命產生負面影響。
　　針對基于一致性哈希的分布式鍵值存儲系統(tǒng)的能耗

3、問題，本文首先提出了GreenCHT節(jié)能技術，它包括一個分層副本放置策略和一個預測性能耗模式調節(jié)器PMS。數(shù)據對象的副本被分布到互不重疊的哈希環(huán)上而不是隨機放置在哈希環(huán)的某一些節(jié)點上。這種放置策略可以通過關閉部分服務器，使得系統(tǒng)進入不同的能耗模式，而不會影響數(shù)據的可用性。另外，能耗模式調節(jié)器PMS能夠預測I/O負載，并且根據負載的高低波動變化來相應關閉或者開啟某些節(jié)點層，進入不同的能耗模式。因此，系統(tǒng)的性能和能耗是與系統(tǒng)的負載成比例的。

4、通過關閉不同數(shù)目的節(jié)點層，系統(tǒng)可以切換到不同能耗模式來滿足不同的能耗和性能需求，同時不會影響數(shù)據的可用性。
　　為了解決低能耗數(shù)據布局中存在的可靠性問題，本文提出了一個分布式的Log-store來維持數(shù)據的可靠性：當一部分服務器被關閉后，所有的訪問待機服務器的寫請求都以一種可靠的數(shù)據布局方式被重新分布到其他活動的服務器上。這樣的布局方式不僅可以保證數(shù)據的可靠性同時還能夠維護寫請求的并行性。即使是在低能耗狀態(tài)，Log-store也可

5、以保證副本的冗余度。當系統(tǒng)出現(xiàn)服務器宕機時，系統(tǒng)可以開啟一層服務器并且開始數(shù)據恢復。這樣，即使是在部分節(jié)點被關閉的低能耗模式下，系統(tǒng)仍然可以容R-1個節(jié)點出錯，其中R為副本的冗余度。本文還給出了分布式Log-store處理服務器故障的具體容錯方案。
　　另外，本文提出了一個基于閃存耐久性的寫轉移技術稱為EWO，用來均衡不同閃存服務器之間的損耗差異。由于基于數(shù)據遷移的損耗均衡算法產生了大量的額外的寫請求，這些寫請求會導致相當大的額外

6、磨損，EWO的設計是利用閃存存儲器異地更新的特性，通過將寫請求或者更新請求在不同閃存服務器之間轉移或者重定向來減少均衡過程帶來的額外損耗。為了將擦除次數(shù)均勻的分布到閃存服務器上，EWO首先基于垃圾回收的頻率計算出：多少寫請求需要從擦除次數(shù)比較多的閃存服務器轉移到擦除次數(shù)比較低的閃存服務器上，然后進行寫請求重新分配或者重定向來均衡損耗。為了降低寫轉移操作帶來的元數(shù)據開銷，EWO采用了一個熱切片轉移策略HSO，來達到額外的損耗開銷和元數(shù)據開