低精度計(jì)算能否實(shí)現(xiàn)智算中心“輕裝上陣”?
低精度計(jì)算應(yīng)用于智算中心說到底還是為了突破算力瓶頸,解決算力應(yīng)用難題,其雖然并非最優(yōu)解,但已經(jīng)成為一塊“關(guān)鍵拼圖”。
2025-04-24 10:38:27
來源:通信世界網(wǎng) 包建羽??

通信世界網(wǎng)消息(CWW)今年初,低成本、高性能的DeepSeek掀起了大模型狂潮,其在預(yù)訓(xùn)練中采用FP8(8位浮點(diǎn)數(shù))與FP32(32位浮點(diǎn)數(shù))混合精度技術(shù)也成為一項(xiàng)重大技術(shù)創(chuàng)新,前者可以大幅減少算力消耗,提高計(jì)算速度;后者則針對(duì)數(shù)據(jù)精度關(guān)鍵環(huán)節(jié)保證了模型的準(zhǔn)確性。兩者相結(jié)合,在不影響模型性能的前提下,實(shí)現(xiàn)了算力資源的高效利用。

類似的思路也被用于智算中心建設(shè),不再像去年卷“萬(wàn)卡集群”那樣,智算中心從建到用更為注重性價(jià)比,低精度計(jì)算應(yīng)勢(shì)而起,正推動(dòng)智算中心從“大力出奇跡”轉(zhuǎn)向“四兩撥千斤”的進(jìn)化路徑。

所謂低精度計(jì)算是指采用FP8、FP6(6位浮點(diǎn)數(shù))甚至FP4(4位浮點(diǎn)數(shù))等低比特?cái)?shù)值格式進(jìn)行運(yùn)算的技術(shù)體系。相較于傳統(tǒng)FP32計(jì)算,其數(shù)據(jù)存儲(chǔ)空間更小、計(jì)算能耗更低,不僅能夠破解大模型訓(xùn)練和推理的算力難題,也有助于化解智算中心的能效比困境。

就行業(yè)發(fā)展來看,智算需求的爆發(fā)直接促使低精度計(jì)算的崛起。近年來,大模型和生成式人工智能推高算力需求,全球智能算力需求呈指數(shù)級(jí)增長(zhǎng)?!?025年中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出,未來兩年,中國(guó)智能算力規(guī)模將保持高速增長(zhǎng)。2023年至2028年期間,中國(guó)智能算力規(guī)模的五年年復(fù)合增長(zhǎng)率預(yù)計(jì)達(dá)46.2%。然而,傳統(tǒng)通用算力中心難以滿足AI模型訓(xùn)練的高密度、低時(shí)延需求,智算中心作為專用基礎(chǔ)設(shè)施的重要性得以凸顯。

在低精度計(jì)算的作用下,智算中心架構(gòu)層的芯片技術(shù)變革最為明顯。在GTC 2025年大會(huì)上,英偉達(dá)發(fā)布的Blackwell Ultra/Rubin系列芯片展現(xiàn)了算力精度下移的趨勢(shì)。例如Blackwell Ultra在FP4精度下的算力達(dá)到15PetaFlops,在特定推理場(chǎng)景中效率提升40倍。作為同類競(jìng)品的AMD MI350X芯片則創(chuàng)新性引入動(dòng)態(tài)精度切換技術(shù)。通過支持FP4和FP6,推理性能較前代提升35倍,F(xiàn)P8算力突破4.6 PetaFlops。不僅如此,當(dāng)前Meta、微軟、AWS等巨頭早已將低精度GPU列為采購(gòu)核心指標(biāo)。

低精度計(jì)算應(yīng)用于智算中心說到底還是為了突破算力瓶頸,解決算力應(yīng)用難題,其雖然并非最優(yōu)解,但已經(jīng)成為一塊“關(guān)鍵拼圖”。面向智算中心的未來發(fā)展,業(yè)界探索出了兩條關(guān)鍵路徑。

一是異構(gòu)計(jì)算架構(gòu),不同于傳統(tǒng)方案強(qiáng)調(diào)雙精度浮動(dòng)運(yùn)算性能的超級(jí)計(jì)算,異構(gòu)智算更多使用半精度浮動(dòng)運(yùn)算、整數(shù)運(yùn)算,甚至更低精度的浮點(diǎn)運(yùn)算,動(dòng)態(tài)適配不同精度需求。在傳統(tǒng)算力的局限與旺盛的市場(chǎng)需求共同作用下,通用算力、智算算力、超算算力、邊緣算力等不同類型算力中心的融合發(fā)展將成為大勢(shì)所趨。

二是“超智融合”,作為異構(gòu)智算的一種表現(xiàn)形式,“超智融合”即整合超算的高性能并行計(jì)算能力與智算的低功耗優(yōu)化優(yōu)勢(shì),通過軟硬件協(xié)同提升算力效率。業(yè)內(nèi)專家認(rèn)為,隨著AI應(yīng)用場(chǎng)景越來越復(fù)雜,通過單一芯片平臺(tái)提供全精度和混合精度計(jì)算,已成為“超智融合”背景下的算力基礎(chǔ)設(shè)施發(fā)展趨勢(shì)。

技術(shù)路徑找準(zhǔn)之余,要想讓智算中心“輕裝上陣”,生態(tài)建設(shè)又是另一核心命題。與低精度計(jì)算相適配,國(guó)內(nèi)仍需構(gòu)建自主可控的開源框架,解決編程接口不統(tǒng)一、算子庫(kù)適配難等問題。因此,智算中心的未來不是一道高精度或低精度的選擇題,而是一道如何“恰到好處”協(xié)調(diào)適配各個(gè)環(huán)節(jié)的思考題。

可以預(yù)見,智算中心走向應(yīng)用的“下半場(chǎng)”,一定不再是 單純追求數(shù)值的堆砌,而是如何在有限資源里找到最優(yōu)解。 面向未來,筆者認(rèn)為智算中心有三大趨勢(shì)值得關(guān)注。一是全精度覆蓋,兼顧低精度推理與高精度訓(xùn)練,滿足差異化需求;二是超智算一體化,通過全國(guó)一體化算力網(wǎng)實(shí)現(xiàn)跨區(qū)域資源共享;三是AI原生設(shè)計(jì),將AI技術(shù)深度融入基礎(chǔ)設(shè)施建設(shè)與管理,實(shí)現(xiàn)自動(dòng)化運(yùn)維與動(dòng)態(tài)優(yōu)化。

原創(chuàng)文章
最新文章
1
睡眠困擾3億國(guó)人,海信新風(fēng)空調(diào)讓你1晚多睡1小時(shí)
2
海信新風(fēng)空調(diào)破局睡眠難題:1晚多睡1小時(shí),打造深度好睡眠
3
1晚多睡1小時(shí)!海信發(fā)布新風(fēng)空調(diào)健康睡眠解決方案
4
2025年五一彩電市場(chǎng)總結(jié):以舊換新拉動(dòng)市場(chǎng)重回增長(zhǎng)區(qū)間!
5
Windows 10 支持將于明年結(jié)束,但您還不需要立即升級(jí)
6
小米16 搭載高通驍龍 8 Elite 2或配備7000mAh超大電池
7
淘寶外賣截胡京東,誰(shuí)還記得餓了么?
8
空調(diào)行業(yè)陷入了一場(chǎng)低價(jià)低配的惡性循環(huán)?
9
科創(chuàng)板半導(dǎo)體設(shè)備廠商一季度財(cái)報(bào)出爐:幾家歡樂幾家愁
10
“以舊換新”帶動(dòng)小家電市場(chǎng)熱銷,預(yù)計(jì)2025年市場(chǎng)規(guī)模將達(dá)2285億元
11
電商平臺(tái)打響"618"年中消費(fèi)戰(zhàn) 創(chuàng)新玩法激活市場(chǎng)新動(dòng)能
12
史無前例!蘋果iPhone 16 Pro低至5498元:回收商加價(jià)收購(gòu)
13
極米R(shí)S20:技術(shù)創(chuàng)新+生態(tài)協(xié)同,重塑全球投影行業(yè)新坐標(biāo)
14
一次“更新”25臺(tái)海信空調(diào)!九億少女真“豪”
15
極米R(shí)S 20系列:用無損4K與沉浸式游戲體驗(yàn)開啟家庭娛樂新紀(jì)元
16
2025慕尼黑光伏展上,華寶新能新一代家庭綠電系統(tǒng)如何贏得全球矚目?
17
全域出擊,引爆618,磁力金牛618活動(dòng)玩法來襲,預(yù)熱會(huì)場(chǎng)即將上線
18
快手電商商家大會(huì)達(dá)人分論壇探索私域新增量,多種方式加速新達(dá)人成長(zhǎng)
19
快手本地生活“五一”假期GMV同比增長(zhǎng)108%,新線城市消費(fèi)力爆發(fā)
20
2025年一季度電視銷售額規(guī)模同比增長(zhǎng)3.4%,高端品質(zhì)化提速
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512