隨著大模型訓(xùn)練與推理需求的爆發(fā)式增長(zhǎng),AI算力已成為支撐大模型時(shí)代的核心基礎(chǔ)設(shè)施。

然而,在算力規(guī)??焖贁U(kuò)張的同時(shí),“存算力失衡”這一結(jié)構(gòu)性矛盾日益凸顯。算力芯片不斷迭代,性能持續(xù)提升,但數(shù)據(jù)存儲(chǔ)、訪問(wèn)與傳輸?shù)乃俣葏s難以與之有效匹配,導(dǎo)致寶貴的算力資源難以充分利用,已成為阻礙AI創(chuàng)新和應(yīng)用落地的關(guān)鍵瓶頸。

以AI Rack和超節(jié)點(diǎn)為代表的高密度算力基礎(chǔ)設(shè)施,通過(guò)系統(tǒng)級(jí)架構(gòu)創(chuàng)新,實(shí)現(xiàn)了計(jì)算、存儲(chǔ)與高速互聯(lián)網(wǎng)絡(luò)的高度整合與協(xié)同優(yōu)化,被視為解決存算運(yùn)力失衡、提升算力效率的關(guān)鍵路徑。

8月20日19點(diǎn),綠算技術(shù)聯(lián)合創(chuàng)始人、首席科學(xué)家孟坤博士將以《存算運(yùn)力失衡下,高密度算力的底座構(gòu)建》為主題,在智猩猩公開(kāi)課以視頻直播形式進(jìn)行超節(jié)點(diǎn)與智算集群系列第9期的講解。

本次公開(kāi)課中,孟坤博士將首先介紹國(guó)內(nèi)外算力的發(fā)展現(xiàn)狀,剖析存算運(yùn)力失衡問(wèn)題,并展望未來(lái)算力發(fā)展趨勢(shì)。隨后,他將從多資源協(xié)同、集中調(diào)度調(diào)配、軟硬件層資源優(yōu)化等多個(gè)維度,給出解決算力問(wèn)題的建議。最后,孟博士將系統(tǒng)講解高密度算力底座的構(gòu)建思路,涵蓋算力結(jié)構(gòu)、硬件層構(gòu)成、GPU互聯(lián)、網(wǎng)絡(luò)互聯(lián)、存力與算力的有效匹配以及軟件層優(yōu)化等核心要素,并深入分析算力集約化、模塊化、模組化設(shè)計(jì)帶來(lái)的價(jià)值。

存算運(yùn)力失衡下,高密度算力的底座構(gòu)建

公開(kāi)課內(nèi)容

主題:存算運(yùn)力失衡下,高密度算力的底座構(gòu)建
提綱:
1、國(guó)內(nèi)外算力現(xiàn)狀及存算運(yùn)力失衡問(wèn)題
2、國(guó)內(nèi)外算力的未來(lái)發(fā)展方向
3、解決算力問(wèn)題的五個(gè)建議
4、高密度算力的底座構(gòu)建
5、算力集約化、模塊化、模組化的價(jià)值

主講人

孟坤博士,綠算技術(shù)聯(lián)合創(chuàng)始人、首席科學(xué)家,北京信息科技大學(xué)副教授,電子數(shù)據(jù)司法鑒定人,國(guó)家網(wǎng)信辦項(xiàng)目評(píng)審專(zhuān)家;主持研發(fā)超100Gb NVMe-OF高性能全閃存儲(chǔ)設(shè)備,已在超算、AI計(jì)算及全流量線速分析等場(chǎng)景成功應(yīng)用;主持研發(fā)物理特性(PUF)驅(qū)動(dòng)去中心身份標(biāo)識(shí)與認(rèn)證機(jī)制,應(yīng)用于數(shù)據(jù)全生命周期安全保障。

直播時(shí)間

8月20日19:00