18gay台湾男同亚洲男同_亚洲精品成a人在线观看☆_亚洲成A∨人片天堂网无码_亚洲av片一区二区三区

當前位置:首頁 > 商業觀察 > 正文

AI算力需求飆升功耗也猛增,數據中心該如何降溫——戴爾科技攜手英特爾共建綠色數據中心破解能效難題

2024-04-16 14:35:02    來源:今日熱點網    

“AI的盡頭是光伏和儲能”,相信很多人對這句話并不陌生。這句話非常形象地說明了AI對電力的高依賴和高消耗,言簡意賅,在業界廣為流傳。

近兩年以大模型為代表的人工智能非常火,引發了大模型投資熱,企業紛紛投入巨資開始訓練大模型和部署各種人工智能應用。然而,不少企業突然發現電出問題了,要么數據中心的電力不夠,要么機房溫度降不下來,或者用電成本太高賬單嚇人,嚴重的甚至直接影響數據中心正常運營,波及企業的數字化化轉型戰略的落實。為了破解這些難題,不少企業走上綠色數據中心的構建之路。

大模型的背后是對電力的高消耗

2022年年底,ChatGPT一炮走紅。ChatGPT表現出來的強大的內容生成能力讓人驚訝,但很多人不了解的是,這些能力是建立在大量數據的訓練之上,需要消耗大量的電力。

斯坦福人工智能研究所發布的《2023年人工智能指數報告》顯示,1750億參數的GPT-3在訓練階段的耗電量高達1287兆瓦時。隨著模型參數的不斷增加以及模型從單模態向多模態發展,耗電量還將進一步提升。

大模型不只是在訓練階段費電,推理階段同樣也相當費電。根據專家對ChatGPT的研究,每當ChatGPT試圖響應一次提問,它需要消耗2.9瓦時的電量。ChatGPT平均每天需要處理約2億個來自用戶的對話請求,這意味著它單日消耗的電量就要超過564兆瓦時,相當于1.7萬個美國家庭一天的用電量。

ChatGPT是通用大模型的一個代表,其他大模型的耗電情況大體類似。隨著大模型的流行,AI工作負載功耗占比正在快速提升。根據施耐德電氣的一份關于2024數據中心行業的研究報告,AI類工作負載功耗2023 年只占到8%,而到 2028 年會占15%-20%,總能耗預計會到 15GW,相當于十三峽水電站的總裝機容量 22.5GW的70%。

通用大模型之所以費電,一個重要原因是它的訓練和推理都需要大量GPU,今天GPU集群越來越大,萬卡甚至10萬卡也不稀奇,而GPU隨著性能的不斷提升功耗會不斷上升,正在從目前的350瓦向1000瓦邁進,英偉達新發布的最新GPU GB200已經突破了1000瓦。當然,不只是GPU,CPU的功耗也在上升,正在突破500瓦。

CPU、GPU功耗的不斷上升迫使企業越來越關注AI架構的優化,要把數千甚至上萬張CPU、GPU卡互聯,讓它們高效訪問所需要的數據,完成工作,對系統架構設計提出了很高的要求。

“一個設計良好的AI架構的確能大大提高整個設備的能效,這些年戴爾科技一直在做的事情。”戴爾科技集團大中華區網絡和第三方產品事業部虞頌峰介紹,戴爾科技的能力也得到了市場研究機構的認可,Forrester在 2024 年Q1 的《AI 基礎設施解決方案》報告中將戴爾科技列入 AI 基礎架構解決方案領導者。

傳統風冷不行,液冷勢在必行

AI負載的高電耗可能讓原來數據中心設計的電力不夠用,甚至外圍供電不足,迫使人們需要尋找更多能源,比如引入清潔能源、核能等。而另一個后果就是不得不關注綠色數據中心的建設,關注機房內部致冷問題。

通常數據中心中部署有大量IT設備,如服務器、存儲和交換機等,以及空調等附加設備,這些設備運行需要散發大量的熱,必須及時帶走,否則會因過高的溫度會導致設備損壞,系統宕機。傳統數據中心致冷方式是以風冷為主,老舊機架設計功率不超過10kw左右。然而,今天一臺配置多GPU卡的AI服務器單臺功率就可能突破10kw,傳統風冷技術很難解決其散熱問題,不得已人們開始選擇液冷技術。

“為了滿足 AI 的應用,實現可持續、低碳、節能和環保的綠色數據中心,從目前的技術手段來看,液冷是最佳的選擇。”虞頌峰表示。

液冷解決方案的普及除了要解決機房溫度過高或者局部熱點問題這些內因之外,還有非常重要的一個驅動因素是國家政策。近幾年國家在大力推動節能環保,一直在限制高能耗數據中心。比如,北京要求新建數據中心PUE值低于1.4,上海、深圳要求低于1.3。高PUE值意味著高能耗,特別是對于一些大型和超大型數據中心,其用電量大,降低運營成本和符合國產政策的要求雙重因素驅動下,對液冷技術積極性很高。

各種利好之下,液冷市場增長很快。根據IDC發布的《中國半年度液冷服務器市場(2023上半年)跟蹤》報告,2023上半年中國液冷服務器市場規模達到6.6億美元,同比增長283.3%,預計2023年全年將達到15.1億美元。IDC預計,2022-2027年,中國液冷服務器市場年復合增長率將達到54.7%,2027年市場規模將達到89億美元。

目前市場上主要有兩類主流液冷技術。一類是冷板式液冷,液體不直接接觸IT部件,通過液體在密閉的導管流經服務器內部的散熱冷盤將熱量帶走。另一個是浸沒式液冷,就是直接把整臺服務器泡在特殊液體中,通過與液體進行熱交換來帶走熱量。

一些領先的服務器廠商已經推出了自己的液冷服務器產品。虞頌峰介紹,戴爾科技通過與合作伙伴合作提供三種液冷解決方案,既有冷板式液冷也有浸沒式液冷,可以滿足不同客戶的需求。

DIY 冷板式液冷方案:方案采用戴爾科技的標準液冷服務器,配置 CoolIT 冷盤,加上第三方(綠色云圖和維諦)的CDU 和液冷機柜,在客戶現場組裝完成整套液冷方案交付。

標準的整機柜交付冷板液冷方案:戴爾在工廠預安裝液冷服務器和CoolIT的機柜、分水器,直接交付給客戶。

浸沒式液冷方案:采用的是經過戴爾科技驗證的綠色云圖的浸沒式液冷解決方案,由綠色云圖提供整合服務,適用于邊緣應用、靜音要求極高或者是極致PUE等應用場景。

高效節能需要整體優化設計

當然,要建成一個綠色數據中心光有液冷技術遠遠不夠。綠色數據中心的建設應該從最開始的設計、規劃就開始,一直到機房設備部署、冷卻系統的部署,還要選擇高效節能IT組件以及精細化的管理和運維等。

以系統的管理和監控為例,可以通過電源管理器實時監控并控制服務器的整體功耗和服務器的 CPU 負載情況實現風扇的動態調節,來有效降低數據中心的能耗。

F5公司解決方案顧問王志博透露,F5公司的產品落地場景中就有不少用來匯集各種IT設備運行狀況,借助F5的產品采集數據,然后進行大數據分析和呈現,從而幫助管理者更好地管理這些設備,提高設備運營能效。

值得一提的是,并非只有新建數據中心才能談綠色節能,對于現有的數據中心也可以通過改造來提高能效。比如,通過模塊化的數據中心實現冷熱通道的隔離,通過后門熱交換提高熱交換效率,通過優化傳統數據中心最多可以實現PUE1.2 左右。
 

采用高能效的新一代產品也是一種有效的節能方法。英特爾中國可持續發展項目組負責人彭振飛介紹,采用英特爾最新的第五代至強可擴展處理器,通過選擇電源優化模式就可以在30-40%工作負載時輕松實現110瓦的能耗降低。英特爾即將正式發布的至強6在能效上表現更為優秀,至強6 Sierra Forest首次采用純能效核(E核)設計,可以帶來2.4倍的能效提升,機架密度則可以提高2.7倍。這意味著在相同的空間里能提供更高的算力,并且是更高能效的算力。

為了幫助企業構建綠色數據中心,英特爾還推出了綠色數據中心技術框架2.0,這是一個參考設計,它從XPU層、服務器層、機架層和數據中心層分別提出了合理實現節能減碳的技術路徑,一共提出了13種讓數據中心更綠色的技術能力和方案。

“這是一個框架,目的是希望通過高能效產品和技術的使用,通過液冷,通過更高能效的處理器等IT組件結合,實現高能效的計算,構建更綠色的數據中心。”彭振飛說。

結束語

當下在AI應用熱潮的推動下,算力需求井噴。數據中心作為承載AI應用的關鍵,在滿足算力需求的同時面臨能效問題的挑戰,這使得數據中心的綠色低碳和可持續發展成為剛需。

液冷技術在政策、技術與經濟三大因素的共同推動下成為綠色數據中心建設的重要技術之一,正在快速替代風冷技術發展成為市場主流。面對這個新興市場,有著豐富的技術積淀和對產業了解的戴爾、英特爾等巨頭的加入無疑會大大推動液冷技術的進步,加速綠色數據中心在中國市場的落地步伐,最終為我國數字經濟的高質量發展提供更為強大的核心驅動力。

 
關鍵詞:

上一篇:支票簿替代方案:比傳統支票打印更經濟高效
下一篇:最后一頁

18gay台湾男同亚洲男同_亚洲精品成a人在线观看☆_亚洲成A∨人片天堂网无码_亚洲av片一区二区三区

    91国产福利在线| 亚洲国产高清不卡| 中文字幕欧美区| 91久久精品网| 国产三级精品三级在线专区| 亚洲成人在线网站| 成人免费视频国产在线观看| 免费成人av在线| 国产日韩欧美激情| 麻豆91精品视频| 中文字幕va一区二区三区| 国产精品久久影院| 亚洲成人av资源| 北条麻妃一区二区三区| 亚洲人成亚洲人成在线观看图片 | 日韩精品久久理论片| 成人激情午夜影院| 亚洲在线观看免费| 亚洲精品一区二区三区在线观看| 亚洲午夜久久久| 91欧美激情一区二区三区成人| 香蕉影视欧美成人| 欧美高清在线精品一区| 激情深爱一区二区| 中文字幕一区免费在线观看| 日韩无一区二区| 亚洲自拍偷拍av| 91丝袜呻吟高潮美腿白嫩在线观看| 一本久久a久久精品亚洲| 国产欧美精品日韩区二区麻豆天美| 蜜桃视频一区二区| 国产精品国产三级国产aⅴ中文| 91精品婷婷国产综合久久性色| 亚洲午夜日本在线观看| 久久精品亚洲国产奇米99| 欧美情侣在线播放| 午夜欧美在线一二页| 亚洲国产精品v| 欧美成人精品福利| 麻豆国产欧美一区二区三区| 亚洲欧美一区二区视频| 久久夜色精品国产噜噜av| 日av在线不卡| 亚洲欧美日韩综合aⅴ视频| 精品1区2区在线观看| 黄网站免费久久| 亚洲一区二区三区国产| 国产精品动漫网站| 99久久99久久精品国产片果冻| 欧美视频在线播放| 亚洲成人在线网站| 国产精品免费网站在线观看| 精品国产乱码久久久久久1区2区| 免费的成人av| 亚洲一区二区在线免费看| 中文字幕一区二区三区四区 | 亚洲aaa精品| 国产精品美女久久久久久2018| 日韩欧美的一区| 狠狠久久亚洲欧美| 五月婷婷久久综合| 一区二区成人在线视频| 欧美国产乱子伦| 久久亚洲二区三区| 成人黄页在线观看| 这里是久久伊人| 久久精品国产精品亚洲精品| 亚洲国产aⅴ天堂久久| 亚洲日本在线观看| 欧美激情一区三区| 国产日韩精品一区二区三区 | 成人av网在线| 91精品国产91久久久久久一区二区| 美女脱光内衣内裤视频久久影院| 一区二区欧美精品| 一区二区成人在线| 中文字幕视频一区| 中文字幕亚洲在| 国产精品午夜春色av| 欧美激情中文字幕| 久久久久久免费毛片精品| 26uuu国产电影一区二区| 丁香婷婷综合色啪| 欧美一卡2卡三卡4卡5免费| 国产九色精品成人porny| 欧美午夜片在线看| 日韩精品一级中文字幕精品视频免费观看 | 亚洲午夜精品17c| 亚洲综合无码一区二区| 亚洲精选视频免费看| 亚洲黄色录像片| 亚洲欧美电影院| 亚洲综合免费观看高清完整版 | 日韩欧美国产综合在线一区二区三区 | 成人av电影在线观看| 日韩精品在线看片z| 成人看片黄a免费看在线| 欧美一区二区三区视频免费播放| 国产一区二区在线视频| 6080午夜不卡| 国产成人亚洲精品狼色在线| 91 com成人网| 成人午夜伦理影院| 欧美精品一区二区蜜臀亚洲| 91香蕉视频黄| 亚洲国产精品成人综合| 中文字幕的久久| 亚洲素人一区二区| 一区二区在线免费观看| 亚洲mv在线观看| 在线观看网站黄不卡| 狠狠久久亚洲欧美| 日韩欧美国产午夜精品| 91丨九色丨蝌蚪富婆spa| 国产欧美日韩麻豆91| 国产精品网站在线| 亚洲激情自拍偷拍| 午夜激情综合网| 韩国成人福利片在线播放| 日韩欧美亚洲一区二区| 久久久久国产精品人| 亚洲欧美二区三区| 亚洲第一福利一区| 国产一区二区调教| 欧美精品一区二区三区高清aⅴ| 国产亚洲一二三区| 亚洲精品v日韩精品| 亚洲mv在线观看| 精品午夜久久福利影院| 欧美sm美女调教| 中文字幕高清一区| 午夜国产精品一区| 欧美精品1区2区| 久久综合久久99| 亚洲精品一二三区| 在线观看网站黄不卡| 成人动漫一区二区| 亚洲婷婷在线视频| 一本大道久久精品懂色aⅴ| 国产黄色成人av| 亚洲欧洲色图综合| 男女男精品视频网| 日韩午夜激情av| 国产精品成人免费精品自在线观看 | 国产精品 日产精品 欧美精品| 精品成人免费观看| 亚洲色图在线播放| 久久99久久99| 国产无遮挡一区二区三区毛片日本| 亚洲欧美激情小说另类| 国产综合色精品一区二区三区| 久久亚洲影视婷婷| 亚洲最大色网站| 国产精品99精品久久免费| 中文文精品字幕一区二区| 亚洲午夜一区二区| 高清成人免费视频| 综合色中文字幕| 欧美视频一区二| 国产视频在线观看一区二区三区| 亚洲va韩国va欧美va| 日韩欧美国产不卡| 亚洲日韩欧美一区二区在线| 国产原创一区二区三区| 中文字幕不卡在线观看| 色综合久久久久综合99| 91在线精品一区二区| 亚洲国产精品久久久男人的天堂| 91精品国产91综合久久蜜臀| 亚洲欧洲99久久| 国产一区二区三区日韩| 中文字幕亚洲在| 欧美精品一二三区| 国产精品久久久久久久岛一牛影视 | 中文字幕第一页久久| 色国产综合视频| 久久精品视频免费观看| 青青草国产精品97视觉盛宴| 久久久久99精品一区| 亚洲成人中文在线| 久久这里只有精品6| 免费人成在线不卡| 亚洲国产精品ⅴa在线观看| 一本一道久久a久久精品| 久久久一区二区三区| 免费高清成人在线| 国产精品国产三级国产aⅴ中文 | 在线日韩av片| 国产精品污网站| 国产精品一区二区在线观看不卡 | 欧美日韩一区二区电影| 国产精品免费人成网站| 国产麻豆精品视频| 亚洲综合一区二区| 久久午夜羞羞影院免费观看| 日本韩国视频一区二区| 国产精品美女久久久久久久网站| 国产成人99久久亚洲综合精品| 亚洲第一福利一区| 国产日韩亚洲欧美综合|