奧推網

選單
娛樂

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

作者:賬戶未命名

Hello我是不多BB的未命名,今天分享一套DIY儲存配置。如螢幕所示插了4塊4T機械 + 1塊sata固態,待機只有17W功耗,其中3W還是IPMI。處理器4核8執行緒比8盤位白群強一些。與白裙對比在效能、價格、功耗、拓展性上都略有優勢。裝這套機子最主要想實現家裡ALL IN ONE伺服器的儲存分離。

有觀眾疑惑ALL IN ONE理所應當就該包羅永珍,你分離出來還叫什麼ALL IN ONE。話雖這麼講,可真玩到深層次必然會明白ALL IN ONE什麼都能ALL IN唯獨儲存不合適這個道理。原因主要有3點:

磁碟對虛擬化的影響:IOPS

過往虛擬化影片多次提到實踐中影響虛擬機器效能的因素往往不是CPU數量和記憶體大小,而是磁碟效能。相比VMFS儲存系統(ESXI平臺)專業的儲存系統損耗更低,並且擁有快照、去重等等進階功能。既然講到儲存就提一下IOPS,下圖只是IOPS基本概念,具體虛擬化需要的IOPS效能還要考慮陣列演算法、cache命中率等因素。總的概括虛擬化硬碟方向規劃主要思考兩個維度,一是容量夠不夠二是iops夠不夠。機械硬碟受限於磁頭工作的物理特性IOPS甚至無法突破三位數,而M。2固態則能達到幾十萬IOPS,所以不差錢的話方案終點必然是全固態。考慮到家用場景只要做到系統在固態儲存池,資料在HDD儲存池就足夠舒服了。而固態儲存池用PCIE拆分卡解決,HDD儲存池就是我們本期要做的儲存分離。

部署結構

虛擬化要是有進階的夢想必然走向叢集,叢集優勢非常多高可用就是其一,而高可用要求儲存分離。分離後整體結構要3臺伺服器起步,其中2臺做算力伺服器,1臺做儲存伺服器。只要儲存伺服器不宕機,虛擬機器算力由那臺伺服器提供根據需要可以動態漂移。比如常規狀態下在A伺服器上跑,當A伺服器資源不能滿足需要時把部分虛擬機器轉移到B伺服器上。同理當A伺服器宕機時,虛擬機器會無延遲切換到B伺服器上,和ALL IN BOOM相比穩定性直接拉滿。3臺伺服器家用肯定勸退大部分人,但變通一下1臺算力伺服器加1臺儲存伺服器同樣能玩高可用。我做法是給儲存伺服器底層裝上esxi,儲存系統選擇TrueNAS跑在esxi上,同時為確保效能不受損把硬碟直通給TruneNAS。這樣當我的算力伺服器宕機後,重點虛擬機器可以轉移到ESXI - B上,確保服務不中斷。

噪音規劃

家庭環境沒有專業機房,機器放置的點位很容易讓硬碟的發熱和噪音給日常生活帶來困擾。而拆分後算力伺服器是沒噪音的(僅CPU散熱)隨便放,儲存伺服器選擇藏到角落最大程度規避生活幹擾。也因此我家裝修時在很多奇怪的地方預留了網線口,比如入戶玄關、次臥飄窗以及吊頂內部等。

裝機思路

前面長篇大論主要講為什麼要玩儲存分離,明確玩法後開始分析裝機思路。因為TrueNAS儲存系統對ECC記憶體有依賴只能無情滅掉Intel家用平臺;再考慮到家裡已經有一臺ALL IN ONE伺服器,儲存是從ALL IN ONE裡剝離出來的所以整體功耗我要求不能增加太多,萬能X99也因此被捨棄;低功耗還支援ECC就剩下E3和Ryzen。雖然銳龍主流是65W TDP但實際功耗是很低的,而且主機板BIOS可以設定cTDP限制到35W。初步看Ryzen是個好方案,可支援ECC需要Ryzen PRO還有消費級主機板並不是都支援ECC所以實操沒有想的那麼簡單,最終出於價格原因選擇了E3-1240 Lv5,25W TDP 4核8執行緒,PASSMAKR 6170分。雖然明面上跑分沒有絕對優勢,但在最大記憶體支援、可用ECC記憶體、PCIE通道數、CPU指令集等等其他隱藏引數上都有優勢,所以不是小贏是贏麻了。整體雖然比不過銳龍,但銳龍整機費用會翻倍。所以只能安慰自己如果銳龍cTDP設定到35W,跑分肯定是沒這麼高的。

主機板

我最終選用180塊的E3-1240Lv5再搭配799的超威X11SSM-F整體屬性全形度拉滿。說到主機板因為我們配的是儲存伺服器,肯定只能選ITX或者MATX。常規MATX主機板只有3條殘疾PCIE和4~6個sata介面。而超威X11SSM-F的魅力在於MATX身板卻有8個sata介面和4條PCIE,還是3條PCIE X8加一條PCIE X16。特別強調8個sata介面和6個差距大到不在同一世界,因為你想組一臺8盤位儲存,主機板sata介面不夠你就得上轉接卡,一張轉接卡功耗10W起步。我們整機加硬碟工作狀態才30W功耗,就為了拓展2個sata介面要整體增加50%功耗你覺得合適嗎,而且還消耗一條寶貴的PCIE插槽。

作為伺服器主機板,背板介面豐富2個千兆網口、1個獨立管理口、1個串列埠和1個VGA輸出。

中文IPMI

雖然選擇的1240Lv5沒有核顯,但我們主機板自帶集顯,因此除錯這套主機也並不需要亮機卡非常方便。值得爆吹的是這板子IPMI自帶中文,且遠控支援HTML5,對伺服器板子不瞭解的觀眾可能不理解意味著啥,我ALL IN ONE伺服器上的X99平臺。板子是華碩Z10PA-U8/10-2S一千多塊,想用IPMI還得另買模組,完了IPMI還沒有中文,並且不支援H5遠控,老平臺的遠端大都是基於JAVA的所以你必須先給PC裝上JAVA才能使用非常麻煩。支援HTML5不光是使用省事,重點是透過手機瀏覽器就能做到遠端操控。順帶告訴你要是上Ryzen,帶IPMI的主機板要兩三千塊起步。現在我問你799買這主機板你覺得怎麼樣?包括影片開頭之所以功耗能做到這麼低全靠主機板BIOS中開啟了SATA、PCIE裝置休眠。

記憶體

這套平臺最大缺點必須用純ECC才能點亮,普通記憶體和REG ECC都不行。看見純ECC記憶體價格,有無數次想放棄這平臺。一條8G純ECC居然要130、16G得430。奈何X99基礎功耗還是太高和E3、銳龍比至少翻一倍所以實在不合適。無奈含淚上2條三星DDR4 2133 8G純ECC記憶體,馬甲(佳翼記憶體之戀)是我自己加裝的。

如果真玩高可用,16G記憶體肯定是不夠用的!因為這點記憶體虛擬機器遷移過來根本不夠用,只是我暫時加不起記憶體先這樣跑流程!

這裡提一下TrueNAS SCALE版本身就支援Docker和虛擬機器,但是TrueNAS的機制很容易搶佔空閒記憶體,所以記憶體不夠大的話TrueNAS系統自己很快就會把記憶體全吞了,再想啟動虛擬機器就沒有多餘記憶體分配了。像前文介紹的玩法底層裝ESXI後期和ALL IN ONE伺服器組叢集,在上不起大記憶體的前提下間接起到限制TrueNAS記憶體佔用的痛點。

機箱

機箱選寶藏盒主要因為手上有一個吃灰的,真評價這機箱問題也不少,最難受PCIE只有半高,因為這機箱體積已經不小了,不如加高5cm讓散熱器選擇更多,PCIE相容性更強。不滿意主要做工是真爛,尤其硬碟托盤是我見過用料最拉的。不少人吹的頂部半開蓋的設計我覺得真屬於小聰明瞭,因為就算半開4個螺絲一個不少擰,經常開一半發現騰不開手不得不再把另一邊開啟。本來拆4螺絲能做的事,搞成了拆6個徒增工作量。

老觀眾都清楚我研究被動散熱花了不少心思,它創造性的做了硬碟和主機板的分離設計,讓兩者散熱物理隔開這點我很欣賞,是打動我玩的核心原因。我玩FANLESS很多人說多此一舉,也不少人共鳴說有被噪音和溫度困擾的問題。這個點真沒法過多解釋,話不投機半句多,只能說懂的都懂。

散熱

寶藏盒留給CPU散熱高度有限,我搭配的金錢豹115X-V15純銅底散熱,別看體積不大(僅6cm高)擁有恐怖的200W TDP散熱能力。1240Lv5才25W,所以乾脆不接風扇降低噪音直接當被動散熱器使用。選這個散熱還因為它配的是6025風扇,進階的話能自行升級貓扇,屬於進可攻退可守,唯一缺點略貴和CPU同價。

儲存池思路

作為8盤位機器肯定有人困惑暫時用不上怎麼辦,其實我也用不上。因此我選擇先建立一個儲存池A,用4塊盤做Raid5也就是Z1。等不夠用了再上4盤位還做Z1生成儲存池B。8盤一次性到位只有2個優勢,①能組建一個非常大的儲存池,對正常人講沒實際意義,畢竟還要分割槽的。②8盤整體做Raid5或Z1只浪費一塊盤的空間,這操作有點優勢但不多,因為8塊盤也不少了,僅1塊盤冗餘還是挺危險。保守派肯定得Raid6或者Z2,這能對抗2塊盤意外損壞,如此一來反正都浪費2塊盤空間,那分成2個儲存池分別做Z1或Raid5結局是一樣的。分2個儲存池等有大容量需求時可以再用4塊16T組建儲存池B反倒更靈活。所以這套方案完全可以量力而行,不是非得一次性把硬碟加滿。

硬碟

我是專門配給虛擬化伺服器用沒必要上大容量,故硬碟用的4T紫盤。圖它噪音小溫度低主要還便宜,這樣還把機箱硬碟籠的風扇省掉了,整體還是FANLESS思路向生活妥協,靜音盤+整機無風扇。

系統隨身碟

因為超威X11SSM-F沒有M。2介面,一次性上滿8盤位會導致系統沒地方裝。看過我ESXI教程的都知道隨身碟裝系統是非常完美且正確的最優玩法,本次延續這種方案。我手上剛好有塊ORICO新款固態隨身碟,全金屬機身。讀寫約500M/S,效能不輸sata協議固態,而且支援Tim和GC不會因為頻繁讀寫而降速。我這塊是512GB,直接當固態硬碟用了。裝完ESXI還有300G剩餘,無論做ISO映象倉庫或劃分給虛擬機器使用都很方便。我TrueNAS、Win10都裝在隨身碟儲存上,建立時硬碟沒有選擇“厚置備,置零”效能還不是最佳狀態,即便如此跑分比機械硬碟還是強些的。

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

電源

1U電源因為家裡有一個海韻,故選擇益衡7030B試試水。無論海韻還是益衡出廠都是非模組,這種工業電源原廠線非常硬,體驗過一次基本就不想再接觸了。根據之前經歷這次買了DIY全模組+定製線,300瓦400塊還是挺貴的。到手因為線長度不夠換過一次,自己用力過猛把線頭介面拔掉又換了一次,體驗直接爆炸,所以知道錄素材我為啥不拆電源了吧。

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

總結

這臺儲存伺服器的基礎情況就分享完了,自我評價的話算是妥協了價格、功耗還能擁有成體系玩法的不錯選擇,但不是最優選擇。因為儲存伺服器的配置真得看需求,它不像ALL IN ONE定位起點高加錢黨能做到全都要,DIY儲存最大的博弈在於加錢太多不如買白群,功耗太高不如裝ALL IN ONE。全都要的最優方案錢包是要突破天際的那就殺雞用牛了沒有實際執行意義。因此妥協價格後各類DIY儲存方案必然都會有某一項缺陷,這套遺憾的是超威X11SSM-F不支援CPU核顯輸出,但話說回去上一塊功耗優秀的核顯E3再換一塊帶IPMI還支援核顯的板子整機得加一千塊,有一千塊買個獨顯不香嗎。所以評估各類方案後,我認為這套還算可圈可點。

TrueNAS儲存伺服器裝機,基於ESXI高可用規劃

裝機只是起點,深入折騰按照前文理論想完美的話還得配PCIE拆分卡、萬兆網絡卡等配件。這期節目之所以沒上,因為家裡ALL IN ONE伺服器已經壞了好一陣子,這套聯動體系因此沒有施展拳腳的機會。加上X99 ALL IN ONE折騰一整最終師傅沒修好,前陣子乾脆化身加錢黨從X99升級到了EPYC平臺。關於我家的新伺服器之再跟大家介紹吧。