智東西（公眾號：zhidxcom）
文 | 軒窗
3月9日，由智能行業(yè)第一媒體和產(chǎn)業(yè)服務(wù)平臺智東西主辦的“GTIC 2018 全球AI芯片創(chuàng)新峰會”在上海召開，本次大會以“走進(jìn)AI世界 從芯看未來”為主題，邀請到32名重磅嘉賓到場分享，從上游產(chǎn)業(yè)鏈、到炙手可熱的創(chuàng)業(yè)項目、再到各領(lǐng)域在AI芯片推動下的產(chǎn)業(yè)升級新思考，系統(tǒng)地探討AI芯片在2018年的技術(shù)前景和產(chǎn)業(yè)趨勢。
本次峰會上，國內(nèi)AI芯片行業(yè)四小龍之一的深鑒科技,其聯(lián)合創(chuàng)始人兼CEO姚頌，以“AI芯片行業(yè)新思維”為演講主題，并分享了自己對整個AI芯片行業(yè)的思考。以下是智東西為您整理的姚頌演講核心干貨。
一、怎樣定義AI芯片
本次峰會是關(guān)于AI芯片的峰會，但是到底怎樣的芯片才能稱為AI芯片？一開場，姚頌先從現(xiàn)在大家談?wù)摰牟煌腁I范圍就從這一問題說起：“AI是一個相當(dāng)寬泛的概念，到底該如何定義AI芯片呢？這里面隱含著一個邏輯，現(xiàn)在當(dāng)我們說到AI的時候，其實(shí)指的只是AI中機(jī)器學(xué)習(xí)的那一部分；當(dāng)我們現(xiàn)在說機(jī)器學(xué)習(xí)時，大部分指的又是其中深度學(xué)習(xí)的那一部分；而目前流行的神經(jīng)網(wǎng)絡(luò)算法也只是深度學(xué)習(xí)中的一部分”。
無論是深度學(xué)習(xí)還是機(jī)器學(xué)習(xí)，又都分為訓(xùn)練側(cè)和推理側(cè)，兩個獨(dú)立部分。在神經(jīng)網(wǎng)絡(luò)中又會有VGG網(wǎng)絡(luò)、ResNet-50網(wǎng)絡(luò)等分類，在這些網(wǎng)絡(luò)之上又會有SSD、Faster R-CNN等面向?qū)ο蟮目蚣?。所以?dāng)大家談到AI的時候，首先要明確具體指的是哪一層面。今天，我們談到AI時，更多地指的是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)。
在對人們所說的AI的范圍進(jìn)行了梳理后，姚頌進(jìn)一步指出對AI不同的定義，則會造成整個芯片設(shè)計的不同，難易程度也會不同，針對機(jī)器學(xué)習(xí)等高層級的設(shè)計理念，其通用性則越強(qiáng)，針對某種特定的神經(jīng)網(wǎng)絡(luò)開發(fā)的芯片，其專用性則越強(qiáng)。如果是想做具有高質(zhì)量通用性能的芯片，比如設(shè)計CPU這樣的芯片，是相當(dāng)困難的事情。如果是要做最簡單的芯片，則只需要先把算法做好，再把算法硬化到芯片上，這是最容易設(shè)計和實(shí)現(xiàn)的一個思路。因此，姚頌認(rèn)為從設(shè)計層面上來看，大部分AI芯片的設(shè)計比CPU 、GPU等通用芯片更容易設(shè)計。
對此，姚頌還舉出目前市面上所出現(xiàn)的，針對不同層級AI定義的芯片的例子。比如國外的芯片巨頭如ARM將CPU上添加神經(jīng)網(wǎng)絡(luò)加速庫、NVIDA的針對AI訓(xùn)練側(cè)的GPU、Xilinx的FPGA、針對深度學(xué)習(xí)推理側(cè)的TPU V1、把自動駕駛算法寫到芯片上的Mobileye Eye Q5 、Intel CPU 、Movidius DSP 等都是針對不同層級的AI芯片。國內(nèi)方面也有不少企業(yè)在AI芯片上取得了進(jìn)展，其針對的AI層級也有所不同，如寒武紀(jì)面向更通用的機(jī)器學(xué)習(xí)市場的Cambricon MLU 、 深鑒科技自家的DeePhi DPU則更加關(guān)注深度學(xué)習(xí)層面、地平線的Horizon Journey更專注于面向行業(yè)的算法。因此，姚頌總結(jié)到：“當(dāng)你聽到一個公司在做AI芯片時，首先需要弄清楚其芯片是針對哪一個AI層級的”。
?二、做AI芯片需要哪些工作
在明確了不同層級的AI定義層級后，姚頌繼續(xù)深入到一家做AI芯片的企業(yè)需要做哪些工作。姚頌說做AI芯片并不像大家想的僅僅做個芯片這么簡單，他以做CPU為例給出了從應(yīng)用到最終系統(tǒng)的八個層次。
姚頌以壓縮應(yīng)用為例進(jìn)行了詳細(xì)解釋：在這八個層級的最上層是應(yīng)用，無論是zip還是rar等格式的壓縮應(yīng)用，其下層都包含著一系列的算法和庫。而這些算法和庫的開發(fā)和建立，是需要為所有的程序員和開發(fā)者提供一個可用于開發(fā)的軟件環(huán)境，比如微軟Windows里的Visual Studio就是這樣一個環(huán)境。而軟件環(huán)境的建立則需要下一層級的操作系統(tǒng)、驅(qū)動程序和編譯程序的支持，比如Visual Studio里的MSVC，就可將程序編譯到最終指令。比如CPU上的X86指令集，就是一個很通用的指令集，可將上層應(yīng)用和下層芯片需要做的事很好的割裂開。
有了指令集后，芯片的核心架構(gòu)就可定義出來了，再往下的層級芯片公司可選擇做或者不做，比如ARM做的就是IP授權(quán)，而英特爾做的就是芯片本身。再往下的層級就是芯片本身的實(shí)現(xiàn)，是制作板卡還是做SoC。對于做CPU的公司，中間兩層即指令集和IP是最重要的，以這一層往上和往下都有兩個相對明確的邊界，對于做CPU的公司來說向上和向下的層級可選擇不做。
但對于做AI芯片的公司來說，該如何來劃定這兩條邊界呢？姚頌作為資深A(yù)I芯片設(shè)計者，給出了自己的理解。首先，對于AI芯片來說，其設(shè)計是針對不同用戶的，因此指令集各異，芯片上跑的各項需求也各異，這些具有針對性和差異性的指令集對于AI芯片公司來說是需要自己開發(fā)的。
芯片底層的程序和應(yīng)用算法也是天差地別的，姚頌以做人臉識別算法為例，他說更多的程序員會選擇用Python和C編寫程序，有些還需要改動操作系統(tǒng)內(nèi)核等，而做這些之前必須要把上層的設(shè)計環(huán)境做好。姚頌繼續(xù)指出，做底層設(shè)計的人和做應(yīng)用的人是相互割裂的。但對于AI芯片公司來說，是不是做到IP這個層面就夠了，要不要把芯片做出來，要不要進(jìn)一步做稱板卡的形式？如果再往上走，算法要不要做出來？姚頌說對于AI芯片來說，將算法做出來也是可以的，因?yàn)橛脩羰褂肁I芯片來進(jìn)行算法開發(fā)也需要一定的時間。比如英偉達(dá)做自動駕駛芯片，就將最終系統(tǒng)到應(yīng)用一整套都做出來了，所以對于芯片公司來說，決定上下兩條劃分線到底該劃到哪個層級，是相當(dāng)重要的問題。
三、怎樣建構(gòu)產(chǎn)品的護(hù)城河
在擁有了一款性能非常好的芯片，并在市場上有了一定的競爭力之后，AI芯片公司該怎樣構(gòu)建產(chǎn)品的護(hù)城河呢？
姚頌說到，AI芯片公司最終的目的無非是讓更多的用戶使用自家的產(chǎn)品，而這里可拆解成三個部分：1、產(chǎn)品要有競爭力；2、要讓用戶接觸到你的產(chǎn)品，并愿意使用；3、產(chǎn)品要剛好滿足用戶需求。姚頌更是提到不做到這三點(diǎn)產(chǎn)品是很難有長期的競爭力的。
從用戶對產(chǎn)品的體驗(yàn)來說，姚頌也提出分為四個層級：第一層能用，處于這一層級的AI芯片可以滿足運(yùn)行機(jī)器學(xué)習(xí)算法，這就表示這塊芯片能用了；第二層好用，當(dāng)一塊AI芯片的性能功耗比已經(jīng)很高，隨后又有了相應(yīng)的完整的軟件開發(fā)工作流，能夠讓大家把這些軟件在芯片上使用起來，這就是好用；第三層愛用，如果一款芯片的操作非常簡單，可以傻瓜式的一鍵開發(fā)，用戶就會愛用了；第四層離不開它，要相處于這一層級，芯片公司就需要為客戶提供額外的價值，比如為用戶提供一個平臺，其上有大堆的開源項目，可供用戶進(jìn)行參考設(shè)計。
在構(gòu)建產(chǎn)品護(hù)城河時，最重要的基礎(chǔ)部分就是硬件，硬件良好的性能功耗比將支持功能更多的軟件功能，這需要不同層級間進(jìn)行組合。比如安防行業(yè)，如果像大華這樣的公司接了項目后，中間需要有集成商進(jìn)行集成，比如將視頻管理軟件、IP攝像頭集成到芯片系統(tǒng)上。如果想把AI加入到攝像頭中，其實(shí)只需要將添加一個具有AI功能的模組，在這個模組里面是芯片和各種模組嵌入式軟件。通過調(diào)整集成中各軟硬件的連接串口，模組逐漸趨于穩(wěn)定，再通過開發(fā)環(huán)境用戶就可將集成后的系統(tǒng)使用起來。
在進(jìn)行層級組合的時候，姚頌提到有兩件事對于AI芯片公司來說很重要：一是提供的層級，離客戶越近總收入就越高，離最終客戶越遠(yuǎn)分到的錢就越少；二是芯片設(shè)計每跨越一個層級，開發(fā)周期就會增加6個月到一年，這是一個非常長的開發(fā)時間。
想要構(gòu)建起產(chǎn)品的護(hù)城河，還有一個重要的點(diǎn)就是增加產(chǎn)品的不可替代性？對此姚頌也分享了自己的觀點(diǎn)，他認(rèn)為有五點(diǎn)需要AI芯片研發(fā)公司注意：1、在芯片設(shè)計時候，明確知道最終用戶的需求；2、縮短開發(fā)周期，將芯片開發(fā)的難度降到最低；3、將芯片集成到系統(tǒng)中，使其運(yùn)行更加簡單；4、盡可能減少第三方的協(xié)作5、為用戶提供更多的參考設(shè)計。
對于為用戶提供更多的參考設(shè)計，姚頌提到了一些自己的想法：一是盡可能往應(yīng)用層走，多了解一些應(yīng)用；二是花更多的精力為用戶提供便捷使用的軟件，盡可能提供算法和庫。三是盡可能多地提供垂直行業(yè)里需要的算法框架。四是盡可能地提供系統(tǒng)級方案，而不是單一的芯片。五是盡可能構(gòu)建生態(tài)環(huán)境，讓大家能夠看到更多的用戶生成的內(nèi)容。
結(jié)語：軟件&系統(tǒng)是AI芯片的重要競爭力
最后，姚頌總結(jié)到，一款好的AI芯片產(chǎn)品需要精確的算法加上針對整個垂直行業(yè)的全系統(tǒng)，他化用愛迪生“天才是百分之一的靈感加百分之九十九的汗水”的名言說，“研發(fā)出芯片本身只是完成了整個AI芯片的1%，對于AI芯片的開發(fā)者來說還有99%的臟活累活要做”。
在這些臟活累活中，AI芯片的開發(fā)者們不僅要多關(guān)注垂直行業(yè)的應(yīng)用，以此定義系統(tǒng)和芯片架構(gòu)，更要多關(guān)注終端用戶，為他們提供更多的服務(wù)。
當(dāng)然，站在AI芯片行業(yè)從業(yè)者的角度，姚頌也指出了關(guān)于AI芯片公司定位非常重要的一點(diǎn)：每家AI芯片公司都需要成為一家軟件&系統(tǒng)公司，這樣才能在市場競爭中取得優(yōu)勢。
每日一頭條
趨勢·深度·犀利·干貨，最專業(yè)的行業(yè)解讀
深喉爆料、投稿：guoren@zhidx.com
