智東西（公眾號(hào)：zhidxcom）
作者 | 云鵬
編輯 | 李水青
智東西11月29日?qǐng)?bào)道，今天Arm在北京舉辦了年度技術(shù)大會(huì)，會(huì)后智東西與少數(shù)業(yè)內(nèi)媒體一起與Arm高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad等高管進(jìn)行了面對(duì)面深度交流。
Awad在溝通會(huì)上首先對(duì)上午演講中的重點(diǎn)信息進(jìn)行了總結(jié)，他的一個(gè)觀點(diǎn)令人印象深刻，在AI新時(shí)代，Arm要做的并不是打造一個(gè)“完美的架構(gòu)”，而是為更多企業(yè)的創(chuàng)新提供一個(gè)更好的“平臺(tái)”，廠商們基于Arm架構(gòu)可以設(shè)計(jì)出更多出色的芯片產(chǎn)品，例如英偉達(dá)的GH200 Grace Hopper。
AI大模型是當(dāng)下科技產(chǎn)業(yè)討論中避不開的一個(gè)話題，Awad說，AI技術(shù)發(fā)展太快了，我們每次討論的內(nèi)容都可能不一樣，在他看來，AI領(lǐng)域最大的挑戰(zhàn)之一就是內(nèi)存帶寬，解決這樣的挑戰(zhàn)需要新的系統(tǒng)架構(gòu)，提高內(nèi)存一致性。系統(tǒng)架構(gòu)的靈活性、強(qiáng)大的生態(tài)系統(tǒng)至關(guān)重要，這些都是滿足AI大模型發(fā)展需求的關(guān)鍵。
目前，從最小的設(shè)備到最大的數(shù)據(jù)中心，AI將會(huì)無處不在，每個(gè)涉及計(jì)算的領(lǐng)域都需要更多算力、更多加速能力。對(duì)于Arm而言，這是巨大的機(jī)會(huì)。
最近智能手機(jī)、PC等產(chǎn)品都在向生成式AI靠攏，比如提出AI PC的概念，Arm作為底層芯片技術(shù)提供商，對(duì)此是如何思考和布局的？AI大模型會(huì)給移動(dòng)芯片生態(tài)帶來哪些變化？
對(duì)于智東西提出的這些問題，Awad給出了自己的看法，他提到，AI大模型的訓(xùn)練更多會(huì)發(fā)生在云端，而推理過程則會(huì)發(fā)生在各個(gè)節(jié)點(diǎn)，從端側(cè)設(shè)備到云端。
從提升計(jì)算性能的角度來看，實(shí)現(xiàn)軟硬件的緊密耦合是必須的，包括CPU、NPU、GPU，整個(gè)計(jì)算系統(tǒng)。系統(tǒng)中的各個(gè)器件都不是孤立的。
對(duì)于云巨頭自研芯片的產(chǎn)業(yè)趨勢(shì)，Awad認(rèn)為，五年以前，在基礎(chǔ)設(shè)施建設(shè)方面，廠商會(huì)購買預(yù)配置好的芯片，購置服務(wù)器，但如今云計(jì)算巨頭都在自研芯片。
云巨頭自研的目的并不只是為了降低成本，其最主要的目的是把每一顆芯片的性能、效能做到極致，根據(jù)自己的工作負(fù)載、圍繞自己的數(shù)據(jù)中心進(jìn)行個(gè)性化定制。正因?yàn)橛羞@樣的優(yōu)化，他們才越來越不懼怕日益增長(zhǎng)的數(shù)據(jù)處理需求，從而為“GPTs”時(shí)代做好準(zhǔn)備。
在基礎(chǔ)設(shè)施建設(shè)領(lǐng)域，Arm Neoverse計(jì)算子系統(tǒng)（CSS）的核心優(yōu)勢(shì)是可以提供“預(yù)集成”，比如配置64核芯片和互聯(lián)模塊的產(chǎn)品，亞馬遜AWS對(duì)芯片物理層的配置做了一些改變，這些意味著需要做很多工作，例如I/O接口加速，而Arm的CSS已經(jīng)將這些基礎(chǔ)工作做完了。
對(duì)于Arm的合作伙伴來說，廠商有很多選擇，比如選擇開箱即用的方案，或者使用芯粒、離散IP等方案。
在溝通后的參觀環(huán)節(jié)，我們看到基于Arm的云實(shí)例相比基于x86的云實(shí)例在性能和成本上都有比較明顯的優(yōu)勢(shì)，在芯片EDA設(shè)計(jì)、視頻編解碼等應(yīng)用場(chǎng)景中優(yōu)勢(shì)比較明顯。
結(jié)語：構(gòu)建AI時(shí)代的“基礎(chǔ)設(shè)施”，生成式AI加速Arm生態(tài)成長(zhǎng)
在交流中，我們能看到Arm對(duì)于自身在AI新時(shí)代的機(jī)遇和挑戰(zhàn)都有比較清晰的認(rèn)識(shí)，同時(shí)Arm給自己在產(chǎn)業(yè)中的定位似乎更傾向于底層平臺(tái)提供方，類似AI時(shí)代的“基礎(chǔ)設(shè)施”建設(shè)者，基于自身硬件、軟件、生態(tài)層面的優(yōu)勢(shì)技術(shù)，賦能芯片廠商。
面向未來的AI大模型時(shí)代，例如高通、聯(lián)發(fā)科等移動(dòng)芯片廠商，微軟、亞馬遜等云巨頭都在芯片領(lǐng)域有更多新的布局，生成式AI在移動(dòng)芯片、服務(wù)器芯片市場(chǎng)也掀起了新的技術(shù)革新浪潮，Arm生態(tài)無疑會(huì)繼續(xù)加速成長(zhǎng)。
