智東西(公眾號(hào):zhidxcom)
作者 | 云鵬
編輯 | 漠影

智東西9月25日消息,今天凌晨,高通三芯齊發(fā),亮出了其面向手機(jī)、PC領(lǐng)域的重磅旗艦芯片,縱觀這些產(chǎn)品,性能和能效的大幅提升、AI能力的顯著改善是共同特點(diǎn)。

智東西在發(fā)布會(huì)前夕與高通產(chǎn)品市場(chǎng)高級(jí)總監(jiān)馬曉民、高通高級(jí)副總裁兼手機(jī)業(yè)務(wù)總經(jīng)理Chris Patrick進(jìn)行了面對(duì)面深入交流,重點(diǎn)對(duì)高通在手機(jī)芯片端側(cè)AI領(lǐng)域的思考和AI升級(jí)背后的關(guān)鍵技術(shù)點(diǎn)進(jìn)行了深入探討。

今天,模型越來越復(fù)雜、模型的多模態(tài)趨勢(shì)越來越明顯,同時(shí)模型迭代速度也非???,這些變化給手機(jī)端側(cè)AI芯片帶來了哪些挑戰(zhàn)、高通又是如何應(yīng)對(duì)的?

對(duì)此Patrick談道,如今模型技術(shù)和模型類別不斷迭代變化,高通在AI方面研究了20多年,長期跟學(xué)界保持密切聯(lián)系,緊跟最新技術(shù)趨勢(shì)。高通每一代的NPU都會(huì)面向未來的模型和AI技術(shù)去設(shè)計(jì)、去更好的適應(yīng)。

與此同時(shí),高通希望實(shí)現(xiàn)的是分布式的AI,各類智能設(shè)備都能基于驍龍平臺(tái)廣泛的使用AI能力。高通自己的AI引擎包括不同組成部分,異構(gòu)計(jì)算的架構(gòu)模式可以滿足不同的需求,合作伙伴可以自由選擇利用哪些模塊的AI能力去加速自身的AI應(yīng)用。

應(yīng)對(duì)AI的快速變化,手機(jī)芯片圈的各路玩家都在積極調(diào)整,比如蘋果在GPU里塞神經(jīng)網(wǎng)絡(luò)處理器、Arm給CPU加入SME2技術(shù),高通和聯(lián)發(fā)科的芯片迭代也圍繞AI。

對(duì)于業(yè)內(nèi)圍繞AI做出的改變,馬曉民談道,近年手機(jī)端側(cè)AI呈現(xiàn)出一些大的變化趨勢(shì),比如從過去單一的大語言模型到如今更多的多模態(tài)大模型,而不論是模型的變化還是芯片內(nèi)部模塊的變化,對(duì)于端側(cè)AI體驗(yàn)來說,圍繞的核心點(diǎn)都是相同的:

第一,生成tokens的速度要高,輸出夠快,體驗(yàn)才能更好;

第二,保證功耗足夠低,讓AI功能可以常用而不會(huì)影響整機(jī)體驗(yàn);

第三,保證足夠的安全,實(shí)現(xiàn)個(gè)人數(shù)據(jù)的完全端側(cè)處理;

第四,內(nèi)存開銷要足夠小,保證成本是可控的;

第五,要足夠準(zhǔn)確,AI提供的幫助、AI生成的內(nèi)容要足夠準(zhǔn)確、真正具有很強(qiáng)的可用性,才能讓用戶形成使用習(xí)慣;

歸根結(jié)底,所有技術(shù)的升級(jí)都是為了AI體驗(yàn)更快、更省、更安全。

今年各家芯片廠商都比較重視芯片端側(cè)AI能力的提升,但時(shí)至今日,手機(jī)端側(cè)AI,尤其是對(duì)于大火的AI智能體,普通消費(fèi)者似乎并沒有真正廣泛的用起來,豆包、ChatGPT、Gemini這些云端模型和應(yīng)用仍然占據(jù)主流。

對(duì)此Patrick提到,實(shí)際上在AI體驗(yàn)方面,消費(fèi)者的期待是越來越高的,從過去生成一張簡(jiǎn)單的圖像到現(xiàn)在要求畫質(zhì)更高、速度更快。

云端有云端的優(yōu)勢(shì),新的推理模型往往會(huì)率先應(yīng)用在云側(cè),但需要注意的是,模型在規(guī)模和質(zhì)量的優(yōu)化進(jìn)展上是非??斓模裉旌芏嘈∧P投加泻芎玫男Ч?,模型量化技術(shù)上取得很大進(jìn)展,MoE模型模式也取得很大進(jìn)展。

未來,AI更多是一種混合模式,邊緣小模型做快速響應(yīng),云端大模型處理復(fù)雜任務(wù),而高通今年的重點(diǎn)就是讓邊緣側(cè)設(shè)備可以更好的使用這些模型。邊緣側(cè)的優(yōu)勢(shì)在于有大量可以即時(shí)獲取的端側(cè)數(shù)據(jù),AI可以更好地規(guī)劃日程安排、更好地通過語境做出判斷提供主動(dòng)服務(wù)。

在馬曉民看來,在智能體AI方面,大多數(shù)消費(fèi)者更希望看到私人化AI助理這樣的AI應(yīng)用,而不是簡(jiǎn)單的AI生圖、生文。AI可以學(xué)習(xí)手機(jī)數(shù)據(jù),提供更主動(dòng)的AI服務(wù),提供低功耗的“Always on”體驗(yàn),這是更重要的。

結(jié)語:端側(cè)AI迭代提速,高通一手用戶需求一面緊跟技術(shù)趨勢(shì)

可以看到,在芯片較為出色的端側(cè)AI能力提升背后,高通對(duì)端側(cè)AI的發(fā)展有著清晰的認(rèn)知和規(guī)劃。一方面,用戶到底在手機(jī)上需要什么樣的AI體驗(yàn),從用戶需求出發(fā)去尋找解決方案;另一方面,在日新月異的AI技術(shù)迭代中,高通必須時(shí)刻緊跟最新技術(shù),保證AI能力的擴(kuò)展是靈活、AI技術(shù)是前沿的。

今天,所有手機(jī)芯片玩家可以說都呈現(xiàn)出“All in AI”的架勢(shì),AI在手機(jī)性能、影像、通信、游戲等各個(gè)方面的融合愈發(fā)深入。AI手機(jī)之戰(zhàn)正來到比拼體驗(yàn)的階段,而手機(jī)芯片無疑是底層最核心的技術(shù)支撐。