算電協(xié)同、高密液冷、國(guó)產(chǎn)芯片……算力黑科技與創(chuàng)新應(yīng)用一覽
當(dāng)前,人工智能技術(shù)及生態(tài)迭代加快,大模型產(chǎn)品及應(yīng)用層出不窮,對(duì)智能算力提出更強(qiáng)性能、更大規(guī)模、更低成本的需求。作為關(guān)鍵環(huán)節(jié)與核心底座,以智算中心為代表的智能算力基礎(chǔ)設(shè)施,呈現(xiàn)哪些創(chuàng)新技術(shù)與趨勢(shì),多模態(tài)大模型發(fā)展如何,本文帶你一覽。
大模型不斷迭代創(chuàng)新
今年7月,中國(guó)信息通信研究院發(fā)布《全球數(shù)字經(jīng)濟(jì)白皮書(shū)(2024年)》顯示,全球人工智能大模型共1328個(gè)。人工智能在很多領(lǐng)域里正在釋放潛力,可以應(yīng)用到工業(yè)、醫(yī)療、能源、城市、交通等領(lǐng)域中。
從文字生成到圖片生成、視頻生成,大模型不斷迭代,由單模態(tài)像多模態(tài)發(fā)展,極大增加了智能算力需求,也給AI賦能千行百業(yè)帶來(lái)變革。
就在當(dāng)?shù)貢r(shí)間12月9日,OpenAI推出最新版本的視頻生成大模型Sora-Turbo。新版Sora可生成最高1080p分辨率、最長(zhǎng)20秒、寬屏、豎屏或方形的視頻,用戶(hù)可以利用資源進(jìn)行擴(kuò)展、remix、融合,也可基于文本生成全新的內(nèi)容。OpenAI開(kāi)發(fā)了全新的UI界面,并提供故事板工具讓用戶(hù)可以精準(zhǔn)地指定每個(gè)幀的輸入。目前新版Sora的單視頻平均生成價(jià)格約0.4美元,該公司CEOSam Altam表示“大家可以將Sora看作視頻版的GPT-1”。
業(yè)內(nèi)人士認(rèn)為,視頻生成模型在今年有了長(zhǎng)足進(jìn)展,因此Sora-Turbo上線相比首次發(fā)布時(shí)帶來(lái)的沖擊較弱。本次迭代上線在基礎(chǔ)模型能力上并沒(méi)有太多亮點(diǎn),生成速度在分鐘級(jí)左右,估算相關(guān)算力成本并沒(méi)有降低。有大模型從業(yè)者表示,僅看技術(shù)指標(biāo),國(guó)內(nèi)現(xiàn)有視頻生成模型并不比sora差。
智算崛起背后的用電挑戰(zhàn)
智算帶來(lái)驚人的能源消耗,帶來(lái)高額成本,更讓企業(yè)想不到的是,有一天“電從哪里來(lái)”成為新挑戰(zhàn)。
據(jù)中國(guó)信通院測(cè)算,截至2023年底,全球算力基礎(chǔ)設(shè)施總規(guī)模達(dá)到910EFLOPS(FP32),同比增長(zhǎng)40%。美國(guó)、中國(guó)算力基礎(chǔ)設(shè)施規(guī)模位列前兩名,算力占比分別為32%、26%。高算力背后是高電力。擁GPT4.0訓(xùn)練需要經(jīng)過(guò)三個(gè)月,使用2.5萬(wàn)塊GPU芯片,僅一次訓(xùn)練就消耗了2.4億度電。在推理階段,大模型的耗電量同樣不容小覷。
為滿(mǎn)足新增能源需求及成本要求,美國(guó)科技企業(yè)盯上了核能直接向數(shù)據(jù)中心供電:
今年10月,谷歌宣布著手與核電企業(yè)簽署協(xié)議,爭(zhēng)取截至2030年起通過(guò)核電站實(shí)現(xiàn)快速安全供電,“這項(xiàng)協(xié)議將提供500兆瓦全天候無(wú)碳電力”。
日前,Mate發(fā)布征求建議書(shū),表示計(jì)劃在2030年代初新增1-4GW的核能發(fā)電能力,并就此向有關(guān)核開(kāi)發(fā)商尋求合作,以支持?jǐn)?shù)據(jù)中心及其周邊供電的電網(wǎng)增長(zhǎng)需求。
然而,這樣核電站直連數(shù)據(jù)中心供電的趨勢(shì),已經(jīng)引發(fā)一些美國(guó)電網(wǎng)公司反彈,并被美能源部門(mén)“重點(diǎn)關(guān)注”。
今年11月初,美國(guó)“核電廠+數(shù)據(jù)中心”的標(biāo)桿性交易——被美國(guó)聯(lián)邦能源管理委員會(huì)否決,該交易涉及6.5億美元以上,能源公司Talen出售核電站旁的數(shù)據(jù)中心園區(qū)(960MW)給亞馬遜,并長(zhǎng)期供應(yīng)核電。
電力賣(mài)方直接與買(mǎi)方進(jìn)行電力交易,無(wú)需通過(guò)電網(wǎng),這種交易行為被形象的稱(chēng)為“隔墻售電”。在中國(guó),這樣的數(shù)據(jù)中心用電方式,正在被鼓勵(lì)。
8月6日,國(guó)家發(fā)展改革委、國(guó)家能源局和國(guó)家數(shù)據(jù)局聯(lián)合印發(fā)《加快構(gòu)建新型電力系統(tǒng)行動(dòng)方案(2024~2027年)》提到:數(shù)據(jù)中心通過(guò)建設(shè)配套可再生能源電站、與可再生能源發(fā)電企業(yè)直接開(kāi)展電力交易等方式,降低運(yùn)營(yíng)成本,實(shí)現(xiàn)能源消費(fèi)結(jié)構(gòu)優(yōu)化及東、西部電力資源互補(bǔ)和優(yōu)化配置。
11月28日,國(guó)家能源局發(fā)布《關(guān)于支持電力領(lǐng)域新型經(jīng)營(yíng)主體創(chuàng)新發(fā)展的指導(dǎo)意見(jiàn)》,指出“新型經(jīng)營(yíng)主體原則上可豁免申領(lǐng)電力業(yè)務(wù)許可證,明確提出支持“隔墻售電”等新型電力交易模式。
綠色節(jié)能除了液冷還有這些
隨著GPU芯片快速演進(jìn),功率快速攀升,傳統(tǒng)的風(fēng)冷模式很難滿(mǎn)足散熱需求,更高換熱效率的液冷正逐漸被數(shù)據(jù)中心和大模型企業(yè)接受。
這一背景下,成本與實(shí)施難度更低的冷板式液冷最先被IDC企業(yè)等接受,而由于GPU芯片的迅猛發(fā)展,散熱效率更高的浸沒(méi)式液冷也一改過(guò)去的“冷遇”,產(chǎn)業(yè)鏈上游、中游持續(xù)推出浸沒(méi)式液冷服務(wù)器、冷卻液等新品。
與此同時(shí),在液冷之外,數(shù)據(jù)中心還開(kāi)展了更精密空調(diào)、無(wú)水等綠色節(jié)能探索。
傳統(tǒng)數(shù)據(jù)冷卻系統(tǒng)采用水蒸發(fā)冷卻方式降低能源需求,微軟云服務(wù)部門(mén)此前介紹了下一代“0水蒸發(fā)數(shù)據(jù)中心設(shè)計(jì)”,采用新型芯片級(jí)冷卻解決方案,配備更高效水冷機(jī),支持更高運(yùn)行水溫,整體冷卻系統(tǒng)采用閉環(huán)水路,可實(shí)現(xiàn)服務(wù)器和冷卻器之間的冷卻水流循環(huán),一旦在建設(shè)過(guò)程中填充完畢就無(wú)需新鮮水源填充。這樣的數(shù)據(jù)中心每年可節(jié)約1.25億升用水。
在自然資源適合的“東數(shù)西算”集群,亦有數(shù)據(jù)中心采用全變頻氟泵自然冷精密空調(diào)進(jìn)行更節(jié)能的制冷。通過(guò)智慧控制系統(tǒng),實(shí)施監(jiān)測(cè)各參數(shù)性能,動(dòng)態(tài)調(diào)整制冷模式,智能適應(yīng)四季變化,實(shí)現(xiàn)最佳節(jié)能匹配。同時(shí)采用無(wú)水化設(shè)計(jì),通過(guò)高效風(fēng)側(cè)自然冷技術(shù)消除水資源的消耗。
更多技術(shù)創(chuàng)新與應(yīng)用實(shí)踐,盡在IDCC2024【算力技術(shù)創(chuàng)新與應(yīng)用論壇】


