智東西（公眾號：zhidxcom）
文 | 司北
3月15日，由智東西主辦，AWE和極果聯(lián)合主辦的AI芯片創(chuàng)新峰會，在上海成功舉辦！本次峰會報名參會的觀眾覆蓋了近4500家企業(yè)，到會觀眾極為專業(yè)，其中總監(jiān)以上級別占比超過62%，現(xiàn)場實際到會人數(shù)超過1800位。
大會現(xiàn)場，20位人工智能及AI芯片業(yè)界翹楚共聚一堂，系統(tǒng)的探討了AI芯片在架構創(chuàng)新、生態(tài)構建、場景落地等方面的技術前景和產業(yè)趨勢。
▲高通公司技術副總裁李維興
在去年12月5日年度驍龍技術峰會上，高通發(fā)布了自家首款手機AI芯片驍龍855，它首次集成了獨立的AI硬件處理模塊Tensor Accelerator，并在第四代人工智能引擎AI Engine的配合下讓驍龍855的AI算力飆升到每秒7TOPs。
在去年的AI芯片峰會上，高通公司技術副總裁李維興首次在中國介紹了人工智能引擎AI Engine。今天，李維興再次登上了GTIC?2019的舞臺，帶來了主題為《加速終端側AI的未來》的演講，從5G與AI相結合的角度闡述了高通在人工智能、云端、終端側的觀點和產品規(guī)劃。
李維興認為，5G與AI息息相關，尤其是在云端AI與終端AI并行發(fā)展的當下，5G能夠將云與端的AI性能連接在一起。2019年將會是全球5G+AI的重要節(jié)點，當前高通的驍龍855的5G終端設計已經超過30款，絕大多數(shù)全球5G手機都會和855有關。
對于AI來說，軟件與應用同樣重要。除了發(fā)布AI芯片驍龍855之外，高通已經推出了四代AI平臺，并跟商湯、曠視、虹軟、科大訊飛、網易等業(yè)界眾多軟件AI合作伙伴。2018年，高通還正式成立了Qualcomm AI Research，對AI從研發(fā)到變成產品做了非常多的工作項目。
李維興表示，2035年之前，5G的產品和服務將會累計到12.3萬億美元，2025年AI衍生的商業(yè)價值將達5.1萬億美元，5G跟AI其實是互相幫忙的情況，魚幫水、水幫魚。
附高通技術副總裁李維興演講實錄
李維興：大家好！我是李維興，今天很高興能夠代表Qualcomm再次出席此次活動。接下來，我想與大家分享Qualcomm在AI領域的最新進展，以及我們對云端、終端側AI的一些想法。
很多人都是從通信開始知道Qualcomm這家企業(yè)的。過去30多年，Qualcomm一直在推動每一代移動技術的演進，從模擬技術到數(shù)字技術，從2G、3G、4G、再到現(xiàn)在的5G，從功能手機到智能手機，每一款智能手機都使用了Qualcomm的技術，我們改變了人們生活、工作和連接的方式。對于中國的4G而言，2014年是一個非常重要的時間點。除了支持4G的帶寬速度外，Qualcomm還推動實現(xiàn)了從臺式電腦到智能手機的突破。Qualcomm花費多年時間開發(fā)相關技術，目的是在尺寸、散熱、功耗受到限制的移動環(huán)境下實現(xiàn)接近PC的處理能力?，F(xiàn)在，智能手機擁有的強大計算能力，可以為我們的生活帶來更大的便利，這些都是十分重要的改變。
現(xiàn)在，我們正在進入下一代移動通信技術革命——5G。5G帶來的不僅僅是人與人之間的連接，它將助力實現(xiàn)萬物互聯(lián)。從5G角度，到2035年，5G相關產品和服務將產生累計12.3萬億美元的價值；從AI角度，到2025年，AI衍生的商業(yè)價值將達5.1萬億美元。在Qualcomm，AI和5G是高度相關的，同時它們的并行發(fā)展也將激發(fā)諸多產品創(chuàng)新，讓更多終端智能互連。
大家剛剛可能也觀察到了，在今天這個AI芯片峰會上，我的主題演講是先從5G講起的，這是因為從Qualcomm的角度，5G和AI是高度相關的。5G時代，訓練、推理將在云端處理，所有的邊緣終端都將具備機器學習能力。這意味著，數(shù)據處理將可以在最靠近數(shù)據源的位置處理，對云端處理進行補充。這將很好地保證了用戶的隱私性，因為在終端里便可以支持實時的機器學習處理。同時因為在最靠近數(shù)據源的位置完成處理，它還將帶來可靠性和低時延。終端側處理還將帶來高效性，因為它始終面向移動環(huán)境對于外形尺寸、能效、性能等方面的挑戰(zhàn)。此外，它也將有助于支持個性化。2019年是全球5G向前發(fā)展一個十分關鍵的時間點，在云端進行AI的訓練、推理，在終端側進行AI的數(shù)據處理，這是值得期待的戰(zhàn)略。
進入到智能手機時代，不難發(fā)現(xiàn)，手機已經成為移動通信計算平臺上最重要的一部分。從2018年到2022年，智能手機的累計出貨量將超過86億部，移動終端的規(guī)模將為構建人工智能平臺帶來巨大潛能。Qualcomm開發(fā)的先進通信能力、計算能力、多媒體、低功耗等技術讓小尺寸終端實現(xiàn)了豐富的功能，這也是為什么智能手機是目前最重要的技術應用和創(chuàng)新平臺。
Qualcomm從多年前開始人工智能的研究。Qualcomm在2007年啟動首個AI項目，在此之后，我們也陸續(xù)參與了很多AI項目，并對AI的發(fā)展做出諸多貢獻。在2018年，我們宣布成立Qualcomm AI Research，在公司范圍內開展的全部前沿AI研究，并進行跨各職能部門的協(xié)作式強化整合，希望將終端側智能拓展至更多全新行業(yè)。目前我們的研究已經應用到了產品側——從第一代人工智能平臺驍龍820到第四代平臺驍龍855，我們很高興地看到驍龍移動平臺正在助力全球合作實現(xiàn)更智能的AI用例。接下來我想和大家介紹一下我們的四代AI平臺。
我們的第一代AI平臺是驍龍820。研究人員和商業(yè)開發(fā)者可在我們的CPU上運行神經網絡，比較典型的就是運行Caffe。Caffe是當時最主流的架構，是商用領域很多相關研發(fā)的基礎。這時候我們可以直接把神經網絡訓練放在終端的CPU上進行。
第二代AI平臺是驍龍835，它引入了神經處理SDK。我們也與Google和Facebook進行了深入合作，針對兩者提供的框架進行了優(yōu)化，在終端側支持TensorFlow和Caffe2，它們曾經都是通常在云端運行的框架。一旦網絡受到了訓練，開發(fā)者就可以從驍龍移動平臺中選擇CPU、GPU、DSP的合適內核運行，我們對所有這些內核都進行了優(yōu)化。另外，離線工具可以在目標運行前，對模型進行轉換、優(yōu)化、量化。
第三代AI平臺是驍龍845。在驍龍845上，我們對每一顆內核的計算能力都進行了擴展，同時我們也擴展了對更多的神經網絡框架的支持。一方面，我們直接與這些神經網絡框架供應商合作；另一方面，我們也支持了ONNX交換格式，能輕松地為開發(fā)者提供更多靈活性，從而讓他們無需擔心底層硬件支持的何種網路的問題。
第四代AI平臺是驍龍855。在驍龍855上，它充分利用驍龍的異構多核可編程架構，對每個內核進行大幅優(yōu)化和提升，強調整體芯片面向AI計算的高效率和靈活性。特別值得注意的是，第四代人工智能引擎AI Engine包括四個HVX（Hexagon向量擴展內核），同時新增了一個Qualcomm自主設計、面向AI處理的硬件核心HTA （Hexagon張量加速器）。此外，第四代人工智能引擎AI Engine可以實現(xiàn)每秒超過7萬億次運算（7TOPs），整體AI性能是Android競品旗艦產品的2倍以上。
驍龍855除了集成我們第四代AI Engine，在AI處理以及算力方面性能顯著提升之外，我還要強調一下的是，驍龍855是全球首款商用的5G移動平臺，與驍龍X50搭配可以支持數(shù)千兆比特5G連接。目前，采用驍龍855的5G終端設計超過30款。包括小米、OPPO、一加、中興通訊、努比亞、三星和LG等在內的全球多家手機廠商已經正式發(fā)布或展示了采用驍龍855的首批5G智能手機。通過驍龍855對于5G和AI的支持，Qualcomm正在攜手全球基礎設施廠商、運營商，進一步發(fā)掘5G與AI的潛力，希望為全球用戶帶來的全新水平的移動體驗。
接下來我想介紹Qualcomm眾多產品線上的AI能力。首先是驍龍SoC，它包含驍龍800系列、驍龍700系列、驍龍600系列、驍龍400系列。如圖所示，標記為紅色的芯片與標記為藍色的芯片均支持AI能力，差別在于，標記為紅色的SoC支持Qualcomm人工智能引擎AI Engine。此外，在計算平臺方面，驍龍8cx是面向Windows 10用戶的移動計算平臺，也支持AI Engine。在物聯(lián)網方面，我們的很多產品也支持豐富的AI用例。對于擴展現(xiàn)實（XR），對AI的支持同樣非常重要，因為業(yè)界對于新的人機界定非常重視。另外，汽車也是通信半導體計算平臺的下一個演進平臺。
事實上，很多終端上已經商用了豐富的AI用例，比如計算攝影、背景虛化、自動對焦、關鍵詞檢測、音頻相關的單麥克風降噪等。在軟件合作伙伴中，超過20家AI軟件合作伙伴正在基于驍龍移動平臺上人工智能引擎AI Engine來開發(fā)算法，以打造豐富的AI用例，如拍攝、音頻、增強現(xiàn)實、汽車。此外，Qualcomm還與廣泛的AI云服務商展開合作，包括騰訊、百度、Facebook、Google和微軟等。
無論是AI實時翻譯還是AI醫(yī)療，這是AI用例都讓我們倍感振奮。但要實現(xiàn)規(guī)?；?，智能必須分布至無線邊緣。讓數(shù)萬億相互連接的物體以及海量數(shù)據，可以進行學習并在邊緣實時完成很多時處理數(shù)據的工作并非易事，因為在邊緣進行機器學習意味著需要在有限的環(huán)境中同時完成多類型的任務。那么如何讓工廠自動化、汽車自動化，又如何保證高效、個性化、隱私性和可靠性呢？我們需要提供不同的解決方案，讓AI訓練和推理遍布整個網絡，真正在邊緣實現(xiàn)人工智能。對于Qualcomm，我們擁有領先的、通過AI增強的調制解調器和射頻前端（RFFE），可以提供業(yè)界最佳的性能和功耗。
要實現(xiàn)無線邊緣，5G跟AI是互相幫忙的，魚幫水、水幫魚。超高速、低時延的5G連接除了可以接入互聯(lián)網外，還可以與額外的處理器進行連接。這也就意味著，當我們在無線邊緣構建計算能力時，移動終端上的邊緣處理能力與5G之間的結合，將為終端帶來無比強大的算力。因此，從Qualcomm的角度，AI和5G的并行發(fā)展是一個非常自然的過程。
Qualcomm致力于利用我們的研發(fā)投入推動技術創(chuàng)新、推動5G和AI向前發(fā)展，讓所有終端智能互連。未來，Qualcomm將在移動行業(yè)中繼續(xù)引領5G和AI的演進，為業(yè)界做出重要貢獻。
以上是我跟大家的簡單報告，謝謝各位。
