智東西(公眾號:zhidxcom
作者?| 程茜
編輯?| 心緣

智東西4月14日報道,明天,北電數(shù)智首屆酒仙橋論壇將于北京舉辦,以“開啟AI生產(chǎn)力元年”為主題,圍繞產(chǎn)業(yè)創(chuàng)新應用、生態(tài)發(fā)展與數(shù)智未來三大議題,覆蓋AI基礎設施、數(shù)據(jù)、算力、模型、產(chǎn)業(yè)、應用、人才多個話題開展為期6天11場論壇。

演講嘉賓包括中國工程院院士鄔賀銓、中國信通院云計算與大數(shù)據(jù)研究所所長何寶宏、京東方科技集團科學家冷長林、北方華創(chuàng)微電子副總裁夏凡等。

北電數(shù)智是北京電控旗下高科技企業(yè),成立于2023年8月。上個世紀50年代,酒仙橋是北京電控前身北京751廠的所在地,在這片區(qū)域生產(chǎn)出了新中國第一支電子管、第一臺電話交換機等,北電數(shù)智的首屆酒仙橋論壇也在此開啟。

目前北電數(shù)智已經(jīng)形成一個底座、兩個平臺的布局,即“星火·智算”AI產(chǎn)業(yè)發(fā)展底座與傳統(tǒng)產(chǎn)業(yè)賦能平臺、新興產(chǎn)業(yè)加速平臺。

北電數(shù)智CMO楊震談道,目前國內(nèi)還沒有真正意義上的智算云,未來當芯片層、模型層進入穩(wěn)定收斂期,智算云才能有固化形態(tài)。因此,北電數(shù)智正以不同切面的共性平臺來逐步形成初步的智算云。

北電數(shù)智CTO謝東從三個角度剖析了北電數(shù)智在產(chǎn)業(yè)中的差異化優(yōu)勢,首先是目標,北電數(shù)智的目標是借助AI支持產(chǎn)業(yè)快速發(fā)展;其次是身份,作為國企,該公司可以更容易和頭部企業(yè)合作;第三是布局,北電數(shù)智擁有全棧AI能力,縱向提供算力、模型、軟件服務,根據(jù)不同城市的產(chǎn)業(yè)發(fā)展需求,打通當?shù)禺a(chǎn)業(yè)鏈,讓技術(shù)能快速落地,橫向是廣泛的生態(tài)布局。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

一、打造千P規(guī)模城市級智算中心,針對國產(chǎn)芯片進行算法優(yōu)化

北電數(shù)智打造的北京數(shù)字經(jīng)濟算力中心,通過高性能“異構(gòu)計算平臺”“星火·國產(chǎn)算力AI原生適配認證”技術(shù)體系,提供從芯片選型到算力配置、場景適配的最優(yōu)算力方案。

該算力中心占地面積35000平方米,PUE值為1.14,是城市級智算中心中最低的。楊震解釋說,一般這樣的PUE指標通常會出現(xiàn)在平原或戈壁等散熱條件好的智算中心上。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

并且其混元算力已經(jīng)部署達到1000P,其中集成了70%的國產(chǎn)芯片、30%的英偉達芯片,未來這一智算中心將有能力提供萬P算力。

從算力角度看,目前國產(chǎn)算力整體有兩個特性,產(chǎn)能不夠、各家發(fā)展不均,面對海量、高頻推理任務,需要不同的算力集群聯(lián)合。

2023年10月,北電數(shù)智打造了先進計算迭代驗證平臺,早期這一平臺的目的是以集群接近生產(chǎn)環(huán)境進行測試,之后他們發(fā)現(xiàn),需要讓不同芯片協(xié)同作戰(zhàn),才可以完成市面上的一些任務。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

基于此,北電數(shù)智基于異構(gòu)納管等策略,同時實現(xiàn)了算法加速和模型適配,使得芯片和主流基座模型實現(xiàn)交叉適配,同時基于稀疏計算等讓芯片性能提升。

楊震解釋說,其底層技術(shù)路線和DeepSeek的工程優(yōu)化類似,不同的是DeepSeek是其模型本身針對H800的優(yōu)化,北電數(shù)智則進行了普適的國產(chǎn)芯片、主流基座模型優(yōu)化。去年12月,北電數(shù)智推出了國產(chǎn)算力PoC平臺。

楊震透露,目前北電數(shù)智的算力集群中通過協(xié)同作戰(zhàn)的方式對外提供服務,已經(jīng)打造了550P國產(chǎn)算力集群,這也是國內(nèi)最大的混元集群。在算法加速提升芯片性能上,平均來說可以讓整個國產(chǎn)算力表現(xiàn)提升1-2倍、2-3倍,吞吐量提升7-8倍,推理表現(xiàn)上,配合針對性的算法加速,實現(xiàn)首字延遲的10倍優(yōu)化,解碼延遲10倍優(yōu)化,吞吐量提升80倍以上。

謝東談道,國產(chǎn)芯片單顆芯片綜合能力和國際的先進芯片有差距,因此他們的策略有兩個,一是芯片合起來辦大事,二是各自做擅長的事。

二、1個底座+2大平臺,智算中心要進入精細化運營

北電數(shù)智的底座包含AI計算基礎設施、AI數(shù)據(jù)服務。楊震談道,數(shù)據(jù)是模型的燃料,此前數(shù)據(jù)要素面臨供不出、流不動、用不好且不安全的難題,基于此,北電數(shù)智去年在可信數(shù)據(jù)空間的基礎上將其提升為AI可信數(shù)據(jù)服務。

兩個平臺為傳統(tǒng)產(chǎn)業(yè)升級平臺和新興產(chǎn)業(yè)加速平臺,傳統(tǒng)產(chǎn)業(yè)升級平臺指AI+產(chǎn)業(yè)、AI+城市等,新興產(chǎn)業(yè)加速平臺就是具身智能、無人駕駛等AI原生業(yè)務。

楊震認為,智算中心應該進入精細化運營階段,目前智算中心有的被閑置,有的智算中心與企業(yè)需求不相匹配,很多企業(yè)不會用、用不起,產(chǎn)生結(jié)構(gòu)性矛盾。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

在數(shù)據(jù)層面,去年7月,北電數(shù)智推出可信數(shù)據(jù)空間,實現(xiàn)了讓數(shù)據(jù)可用不可得、可用不可見。

楊震說,近期可以進行聯(lián)網(wǎng)搜索的DeepSeek在使用時效果變差了,這是因為它不可避免會受到互聯(lián)網(wǎng)數(shù)據(jù)的影響。可信數(shù)據(jù)空間中,可以實現(xiàn)數(shù)據(jù)源可信,就能有效避免模型被互聯(lián)網(wǎng)數(shù)據(jù)毒害。

謝東補充說,大模型的能力在企業(yè)中需要專業(yè)知識加持,需要好的基座模型+專業(yè)知識庫,保證信息實時更新,對專業(yè)問題回答得準,這也是可信數(shù)據(jù)空間能避免模型被互聯(lián)網(wǎng)數(shù)據(jù)毒害的原因。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

這一數(shù)據(jù)底座之上,北電數(shù)智為企業(yè)提供了資產(chǎn)管理、數(shù)據(jù)流通和利用、AI數(shù)據(jù)生成等服務。楊震舉例說,在醫(yī)療行業(yè),北電數(shù)智正將可信數(shù)據(jù)空間對外運營,也就是讓更多市場端企業(yè)可以在一定情況下調(diào)用其中的醫(yī)療數(shù)據(jù)能力。

AI全棧能力的協(xié)同計算方面,北電數(shù)智形成了AI異構(gòu)計算平臺和模型適配平臺。

AI異構(gòu)計算平臺可以將不同算力集群進行統(tǒng)一納管、靈活調(diào)度,模型適配平臺包含訓練推理的適配加速、混推混訓部署、數(shù)據(jù)集管理等。模型層有開源模型倉庫、訓推工具、Agent定制拼圖。模型適配平臺已經(jīng)對主流24個大模型做了適配和加速支撐。楊震將其比作筆記本電腦,筆記本電腦需要在操作系統(tǒng)之上,安裝辦公、財務等各類軟件。

傳統(tǒng)產(chǎn)業(yè)賦能平臺分為醫(yī)療、工業(yè)制造的產(chǎn)業(yè)層面。北電數(shù)智正在和北京5家三甲醫(yī)院合作打造專項模型,楊震透露,截止到今年年底,其將和北京超過10家的三甲醫(yī)院合作。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

對于企業(yè)而言,他們需要構(gòu)筑企業(yè)層面知識庫、將企業(yè)工作流重新進行整合、通過數(shù)據(jù)整合實現(xiàn)企業(yè)的多智能體開發(fā),產(chǎn)生全新的工作流模式等。

在新興產(chǎn)業(yè)方面,具身智能針對家庭場景訓練,需要虛擬仿真的訓練環(huán)境、物理模型等,基于此,北電數(shù)智將搭建平臺幫助機器人和實際場景相結(jié)合。

智算中心進入精細運營期!北電數(shù)智城市級智算中心已落地,國產(chǎn)芯片合作辦大事

楊震進一步解釋了“搭平臺”的含義,就是提供從芯片、數(shù)據(jù)、服務、模型、應用層的服務,讓不同生態(tài)伙伴有機會接觸實際場景。

結(jié)語:AI落地加速,深度運營、持續(xù)增長、因地制宜成智算中心關鍵

AI正在加速落地各行各業(yè),但不同企業(yè)的核心需求不同,為智算中心的建設提出了更高要求。

在業(yè)務布局上,北電數(shù)智圍繞一個AI底座以及傳統(tǒng)產(chǎn)業(yè)升級和新興產(chǎn)業(yè)加速兩大核心方向,構(gòu)建起了一套完善的業(yè)務體系。楊震談道,北電數(shù)智的差異化定位和核心競爭優(yōu)勢是,找產(chǎn)業(yè)鏈的卡點和斷點,從算力、算法、數(shù)據(jù)、模型服務、工具鏈等全面服務,滿足全生命周期需求。

在這個基礎上,北電數(shù)智構(gòu)建智算中心的邏輯就是深度運營、持續(xù)增長,并根據(jù)當?shù)禺a(chǎn)業(yè)結(jié)構(gòu),實行“一地一策”,與此同時,他們在深入當?shù)貢r,又會聯(lián)動生態(tài)伙伴找到自己的商業(yè)機會,形成有當?shù)禺a(chǎn)業(yè)結(jié)構(gòu)特色的新興產(chǎn)業(yè)生態(tài)和集群。