通信網(wǎng)banner.jpg)
人工智能的發(fā)展速度堪稱“指數(shù)級(jí)狂奔”，技術(shù)突破的速度、應(yīng)用場(chǎng)景的廣度和社會(huì)影響力超乎想象。特別是以 DeepSeek 為代表的新一代開源人工智能技術(shù)實(shí)現(xiàn)高性能、低成本、輕量化，大幅降低算力與算法門檻，讓 AI 普惠成為可能。
當(dāng)然，DeepSeek 們代表的是算法效率革命，AI 對(duì)算力的需求仍是主旋律，大模型 Scaling Law 仍然生效，未來應(yīng)兩者并重，加速人工智能實(shí)現(xiàn)更大變革。
中國電信充分發(fā)揮云網(wǎng)融合優(yōu)勢(shì)，打造第一科技“息壤”等平臺(tái)，不斷提升算力供給能力。不久前，中國電信在廣東韶關(guān)上線全球首個(gè)智算 N 騰超節(jié)點(diǎn)，標(biāo)志著新一代智能算力注入粵港澳大灣區(qū)國家級(jí)算力樞紐節(jié)點(diǎn)，中國電信在 AI 算力基礎(chǔ)設(shè)施領(lǐng)域取得重大進(jìn)展，為人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入新動(dòng)能。
首個(gè)國產(chǎn)化超節(jié)點(diǎn)的意義
如前文所述，人工智能技術(shù)的升級(jí)迭代速度加快，大模型參數(shù)規(guī)模不斷擴(kuò)大，訓(xùn)練推理所需的智算集群規(guī)模也在不斷增長，千卡、萬卡成為常態(tài)，十萬卡正在路上，未來可能有更大規(guī)模的集群。
目前，業(yè)界構(gòu)建智算集群主要是 Scale Up 和 Scale Out 兩種方式：Scale Up 稱為縱向擴(kuò)展，向上擴(kuò)展，主要是增加單節(jié)點(diǎn)的資源數(shù)量；Scale Out 稱為橫向擴(kuò)展，向外擴(kuò)展，主要是增加節(jié)點(diǎn)數(shù)量，通過高性能網(wǎng)絡(luò)實(shí)現(xiàn)集群互聯(lián)。
受限于單臺(tái)服務(wù)器空間、功耗、散熱等因素，業(yè)界主流智算服務(wù)器在提升單卡算力的同時(shí)，正在從單節(jié)點(diǎn)向超節(jié)點(diǎn)架構(gòu)演進(jìn)。通俗的說，超節(jié)點(diǎn)是 Scale Up 的加強(qiáng)版，是多個(gè)計(jì)算單元通過高速總線互聯(lián)形成的集成化服務(wù)器架構(gòu)，可以看作是一個(gè)高度集成的小型集群。
這對(duì)于國產(chǎn)算力而言是一個(gè)彎道超車的機(jī)遇，雖然近年來國產(chǎn)算力發(fā)展迅猛，但單卡性能與國際先進(jìn)水平仍存在一定差距，超節(jié)點(diǎn)可以彌合單卡的性能鴻溝，也就是業(yè)界常說的“以網(wǎng)補(bǔ)算”。
據(jù)介紹，智算 N 騰超節(jié)點(diǎn)采用新型高速總線架構(gòu)，天然適配混合專家模型（MoE）架構(gòu)，使得大模型訓(xùn)練效率和推理性能大幅提升。
這不是中國電信在人工智能布局過程中的第一個(gè)“首個(gè)”。2024 年 3 月中國電信宣布，天翼云上海臨港國產(chǎn)萬卡算力池正式啟用，這是國內(nèi)首個(gè)投入正式運(yùn)營的國產(chǎn)單池萬卡液冷算力集群。
中國電信介紹，京津冀、長三角建成的國內(nèi)首批全液冷萬卡池，保障了智能算力的供給量，粵港澳大灣區(qū)樞紐節(jié)點(diǎn)建設(shè)首個(gè)超節(jié)點(diǎn)形態(tài)集群，標(biāo)志著中國電信智能算力供給實(shí)現(xiàn)質(zhì)與量的雙重跨越。
“云改數(shù)轉(zhuǎn)智惠”戰(zhàn)略躍遷
無論是首個(gè)智算 N 騰超節(jié)點(diǎn)，還是國產(chǎn)萬卡集群，都是中國電信在人工智能時(shí)代的戰(zhàn)略性規(guī)劃。在第八屆數(shù)字中國建設(shè)
