智東西（公眾號(hào)：zhidxcom）
作者 | 韋世瑋
編輯 | 心緣
智東西8月4日消息，近日，英特爾在AI計(jì)算盒主題分享會(huì)上與眾多合作伙伴一起，分享了AI計(jì)算盒一系列最新落地成果。
同時(shí)，英特爾公司高級(jí)首席工程師、物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)首席技術(shù)官張宇博士，以及英特爾物聯(lián)網(wǎng)事業(yè)部技術(shù)銷售經(jīng)理劉波等英特爾高管和技術(shù)專家，圍繞AI計(jì)算盒的軟硬件技術(shù)優(yōu)勢(shì)進(jìn)行剖析，并分享了他們對(duì)邊緣AI技術(shù)發(fā)展趨勢(shì)的看法。
“人工智能的發(fā)展離不開計(jì)算、通訊、存儲(chǔ)技術(shù)。”張宇談道。同時(shí)他認(rèn)為，邊緣AI的發(fā)展分為三個(gè)階段，目前我們還處于第一階段，也就是邊緣推理階段，而自主學(xué)習(xí)是最終目標(biāo)。
會(huì)后，張宇、劉波等英特爾高管和技術(shù)專家還與智東西等媒體進(jìn)行了深入交流，在探討英特爾AI計(jì)算盒過去一年創(chuàng)新應(yīng)用的的同時(shí)，還分享了英特爾在邊緣AI計(jì)算賽道的布局和規(guī)劃。
▲英特爾公司高級(jí)首席工程師、物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)首席技術(shù)官張宇博士
一、AI計(jì)算盒：AI推理加速能力高達(dá)8倍，已落地?cái)?shù)十個(gè)場(chǎng)景
何為英特爾AI計(jì)算盒？
簡(jiǎn)單來說，該方案融合了第11代英特爾酷睿處理器、OpenVINO工具套件、英特爾Media SDK等軟硬件產(chǎn)品和技術(shù)，通過英特爾成熟的平臺(tái)級(jí)能力，幫助各層面合作伙伴與最終用戶加速邊緣AI應(yīng)用的開發(fā)和工程化落地。
而AI計(jì)算盒的誕生也與邊緣人工智能的發(fā)展息息相關(guān)，尤其是細(xì)分的智能視頻分析市場(chǎng)。相關(guān)行業(yè)預(yù)測(cè)數(shù)據(jù)，到2022年，智能視頻分析市場(chǎng)的規(guī)模或?qū)⒊^1800億人民幣，復(fù)合增長(zhǎng)率為34%。
同時(shí)，智能視頻分析解決方案也將在智慧城市、智能交通、智能制造、智慧零售等10余個(gè)領(lǐng)域得到廣泛運(yùn)用。
為了順應(yīng)智能視頻分析市場(chǎng)強(qiáng)勁的增長(zhǎng)態(tài)勢(shì)，為行業(yè)提供發(fā)展所需的強(qiáng)大算力，英特爾在2020年就正式推出了AI計(jì)算盒參考設(shè)計(jì)，在基礎(chǔ)算力、AI加速和軟件棧配置等方面都有著不少優(yōu)勢(shì)。
基礎(chǔ)算力層面，AI計(jì)算盒基于英特爾10nm SuperFin制程工藝，擁有更低的功耗設(shè)計(jì)，支持最新PCIe 4.0高速擴(kuò)展接口，使得處理器的單線程處理能力提升23%，多線程處理能力提升19%，為智能視頻分析提供強(qiáng)勁的算力支撐。
AI加速方面，通過集成英特爾銳炬Xe顯卡、英特爾GNA 2.0神經(jīng)加速器，以及面向深度學(xué)習(xí)優(yōu)化的VNNI指令集等，AI計(jì)算盒可獲得高達(dá)8倍的AI推理加速能力。
在軟件棧配置上，英特爾Media SDK通過統(tǒng)一的API訪問接口、優(yōu)化的媒體庫訪問，能夠讓AI計(jì)算盒提升視頻播放、編解碼以及格式轉(zhuǎn)換效率，獲得實(shí)時(shí)4K視頻通信所需的60 FPS HEVC視頻編解碼能力。
同時(shí)，AI計(jì)算盒所集成的英特爾OpenVINO工具套件，能夠有效支持從邊緣到云端的深度學(xué)習(xí)推理。
基于AI計(jì)算盒的一系列技術(shù)創(chuàng)新和設(shè)計(jì)，英特爾已和各行業(yè)合作伙伴共同構(gòu)建了面向各垂直領(lǐng)域的端到端解決方案，覆蓋智能支付、智能停車、智慧社區(qū)、智慧樓宇、智能VDD、智能會(huì)議等數(shù)十個(gè)場(chǎng)景。
尤其是面向智慧城市和智慧生活場(chǎng)景，英特爾聯(lián)合智芯原動(dòng)、趨視科技、開域集團(tuán)、中科創(chuàng)達(dá)、小鈷科技等公司打造的AIoT解決方案，已實(shí)現(xiàn)全面落地。
二、張宇：自主學(xué)習(xí)是邊緣AI的最終階段
分享會(huì)現(xiàn)場(chǎng)，英特爾公司高級(jí)首席工程師、物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)首席技術(shù)官張宇博士還圍繞AI浪潮的發(fā)展，談了他對(duì)邊緣AI發(fā)展趨勢(shì)的看法和未來展望。
在他看來，推動(dòng)本輪AI高潮的核心因素主要涉及算力和數(shù)據(jù)兩個(gè)方面。
算力方面，當(dāng)1994年全球超級(jí)五百強(qiáng)算力榜單第一次公布時(shí)，排名第一的超級(jí)計(jì)算機(jī)的每秒浮點(diǎn)運(yùn)算峰值速度達(dá)到了13000/次。而在今年的榜單上，這個(gè)數(shù)字已經(jīng)達(dá)到了53億億次。
“在摩爾定律的推動(dòng)下，算力得到了極大提升，能夠幫助我們?cè)诟虝r(shí)間內(nèi)完成網(wǎng)絡(luò)模型的訓(xùn)練，或處理更加復(fù)雜的AI網(wǎng)絡(luò)系統(tǒng)?！痹趶堄羁磥?，這可以拉近AI技術(shù)與商業(yè)訴求的距離，推動(dòng)AI技術(shù)落地。
數(shù)據(jù)方面，“現(xiàn)在AI是離不開數(shù)據(jù)的，不然得不到好的結(jié)構(gòu)?！睆堄钐岬剑訪ecunet為例，普通的開放數(shù)據(jù)池中包含了超過1400萬兆經(jīng)過標(biāo)注的圖片，利用這些圖片，算法開發(fā)人員可以進(jìn)行圖像分類的識(shí)別，而這些圖片數(shù)據(jù)增加的背后，實(shí)際上是基于通訊技術(shù)與存儲(chǔ)技術(shù)的不斷提升。
“人工智能的發(fā)展離不開計(jì)算、通訊、存儲(chǔ)技術(shù)?！?/strong>他說。
此外，張宇還談到了邊緣AI發(fā)展的三個(gè)階段，一是邊緣推理，二是邊緣訓(xùn)練，三是自主學(xué)習(xí)。
他提到，AI技術(shù)已經(jīng)在越來越多的邊緣計(jì)算領(lǐng)域得到了普及，比如工業(yè)互聯(lián)網(wǎng)領(lǐng)域會(huì)用AI技術(shù)做產(chǎn)品缺陷檢測(cè)。不過，目前大多數(shù)的運(yùn)作模式是，利用數(shù)據(jù)中心的算力和大量AI數(shù)據(jù)來訓(xùn)練網(wǎng)絡(luò)模型，再把模型推送到邊緣端進(jìn)行推理。
現(xiàn)階段，由于邊緣AI更多的模式是在邊緣推動(dòng)，邊緣推理實(shí)現(xiàn)起來就較為容易些。
但張宇認(rèn)為，邊緣設(shè)備的算力和存儲(chǔ)都是有限的，讓邊緣設(shè)備做邊緣推理盡管合理，但也有一定的弊端，那就是模型的更新會(huì)受到限制。“因?yàn)槟Ｐ偷母率怯蓴?shù)據(jù)中心控制的，不可能隨時(shí)隨地為新進(jìn)的數(shù)據(jù)更新?！彼f。
同時(shí)在一些使用場(chǎng)景對(duì)模型更新頻率的要求較高，需要對(duì)模型不斷進(jìn)行動(dòng)態(tài)訓(xùn)練和更新。因此在今后的AI發(fā)展過程中，邊緣訓(xùn)練是必然的發(fā)展趨勢(shì)。
“邊緣訓(xùn)練是AI在邊緣發(fā)展的第二個(gè)階段，但不是最終階段。”張宇談道，因?yàn)樵诋?dāng)下的AI技術(shù)中，人依然扮演著重要角色，并不是完全的人工智能化。
他解釋，雖然現(xiàn)在可以用極大的算力和大量數(shù)據(jù)訓(xùn)練一個(gè)網(wǎng)絡(luò)系統(tǒng)，但網(wǎng)絡(luò)模型的結(jié)構(gòu)需要人提前設(shè)計(jì)，在這個(gè)過程中，人的許多意識(shí)已經(jīng)嵌入到模型中，陷入到模型的使用場(chǎng)景和范圍。
“展望五年、十年以后的邊緣計(jì)算和AI物聯(lián)網(wǎng)的發(fā)展，一定會(huì)有自主的發(fā)展。”張宇描繪了這幅畫面——系統(tǒng)會(huì)自主化決定應(yīng)該選擇模型、策略、算法，會(huì)自動(dòng)收集數(shù)據(jù)訓(xùn)練模型，把訓(xùn)練的結(jié)果用于實(shí)際系統(tǒng)。
“最終一定是自主化的過程，也就是業(yè)界說的OpenPose技術(shù)將在業(yè)界普及?！睆堄钫f，這一階段也是邊緣AI發(fā)展的最高階段。
三、新技術(shù)路線圖為AI計(jì)算盒提供持續(xù)動(dòng)力
正如張宇所說，人工智能的發(fā)展離不開計(jì)算、通訊技術(shù)、存儲(chǔ)的不斷提升。而英特爾作為一家領(lǐng)先的半導(dǎo)體公司，其產(chǎn)品也恰恰涵蓋了通訊、計(jì)算、存儲(chǔ)行業(yè)。
在計(jì)算方面，英特爾開發(fā)的CPU、GPU、FPGA不同的產(chǎn)品組合，能滿足用戶對(duì)計(jì)算不同的需求。
在5G基礎(chǔ)設(shè)施方面，英特爾推出了一系列軟硬件產(chǎn)品，包括基于英特爾架構(gòu)并用于5G無線基站的SO芯片，可以實(shí)現(xiàn)從通訊的核心網(wǎng)到網(wǎng)絡(luò)邊緣的復(fù)用，極大降低開發(fā)門檻，加速軟件開發(fā)速度。
在存儲(chǔ)方面，英特爾還擁有Optane技術(shù)，能大大提升閃存的讀寫速度，提高存儲(chǔ)能力。
“總之，英特爾所提供的是一個(gè)端到端的人工智能解決方案，通過將5G、AI、智能邊緣三者的融合，將邊緣計(jì)算、人工智能推向新的發(fā)展方向，這是我們大的思路和大的戰(zhàn)略。”張宇說。
▲從左到右分別為趨視科技事業(yè)部副總經(jīng)理夏晶，英特爾物聯(lián)網(wǎng)事業(yè)部技術(shù)銷售經(jīng)理劉波，英特爾公司高級(jí)首席工程師、物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)首席技術(shù)官張宇，開域集團(tuán)數(shù)字科技負(fù)責(zé)人應(yīng)翔翔
在會(huì)后與智東西等少數(shù)媒體的交流中，英特爾物聯(lián)網(wǎng)事業(yè)部技術(shù)銷售經(jīng)理劉波也向大家分享了英特爾AI計(jì)算盒在過去一年的軟硬件創(chuàng)新。
他談道，在過去一年多的時(shí)間里，英特爾AI計(jì)算盒經(jīng)歷了幾方面的創(chuàng)新。例如，芯片平臺(tái)從上一代的Whiskey Lake更新到了Tiger Lake，其中Tiger Lake與上一代相比性能有了較大提升。
“一是在CPU側(cè)引入了向量指令集，二是在GPU方面，Tiger Lake的EU個(gè)數(shù)最低為48，而Whiskey Lake為24個(gè)EU，i7是96個(gè)EU?！眲⒉ㄕf，這樣AI性能、媒體編解碼性能都會(huì)有大幅提升。
同時(shí)在算法生態(tài)方面，今年英特爾在零售、工業(yè)、智慧社區(qū)算法合作伙伴的基礎(chǔ)上，又引入了其他幾個(gè)算法領(lǐng)域的合作伙伴，從以往“打點(diǎn)”的形式變成“打面”，以此更好地服務(wù)更多客戶。
另一方面，基于張宇在演講中談到的“自主邊緣計(jì)算是邊緣AI發(fā)展的最高階段”，英特爾目前在這方面有何布局？
“算力方面，AI到了自主學(xué)習(xí)后對(duì)算力的要求會(huì)更高，同時(shí)也對(duì)數(shù)據(jù)處理的方法提出新挑戰(zhàn)?！睆堄罱忉?，尤其在邊緣AI方面，如何做數(shù)據(jù)標(biāo)注等都是有別于數(shù)據(jù)中心的學(xué)習(xí)特點(diǎn)。
在這個(gè)方向上，英特爾一直在做相關(guān)工作，針對(duì)數(shù)據(jù)標(biāo)注不斷地?cái)U(kuò)充英特爾軟件方面的能力，這些能力也將體現(xiàn)在以后的版本中。
與此同時(shí)，英特爾提供了SPU算力戰(zhàn)略，包括CPU、GPU、FPGA、AI加速芯片VPU等產(chǎn)品組合，芯片不同的架構(gòu)也在不斷迭代，還區(qū)別于不同的芯片工藝。
“昨天，我們發(fā)布了今后幾年英特爾非常清晰的工藝路線圖，我們會(huì)更多地利用最新技術(shù)幫助客戶提供更新一代的產(chǎn)品，這些產(chǎn)品不僅可以滿足用戶對(duì)算力的要求，同時(shí)也是異構(gòu)的?！睆堄钫劦?。
英特爾可以通過封裝技術(shù)將不同模塊整合在一起，滿足異構(gòu)的計(jì)算平臺(tái)，滿足用戶對(duì)算力和功能的多樣化需求?！斑@些都是為我們今后實(shí)現(xiàn)自主學(xué)習(xí)提供堅(jiān)實(shí)的物質(zhì)基礎(chǔ)?！彼f。
那么，英特爾最近公布的新制程工藝和封裝技術(shù)路線圖，將會(huì)給AI計(jì)算盒帶來多大的提升？
“第11代的Tiger Lake處理器和第10代相比，EU數(shù)量增加了三倍，整體媒體編解碼能力和AI推理能力得到了相應(yīng)倍數(shù)的提升。”張宇提到。
在后續(xù)的產(chǎn)品里，AI計(jì)算盒的集成顯卡都將采用Xe架構(gòu)，與獨(dú)立顯卡架構(gòu)一致?！斑@樣就保證我們可以通過類似的軟件接口，能讓用戶的AI網(wǎng)絡(luò)模型在集成顯卡、獨(dú)立顯卡，甚至在不同CPU和AI加速芯片之間進(jìn)行遷移，帶來極大的編程易用性?！彼f。
結(jié)語：英特爾助力邊緣AI應(yīng)用生態(tài)落地發(fā)展
隨著5G、物聯(lián)網(wǎng)、云計(jì)算、邊緣計(jì)算等技術(shù)的發(fā)展，給我國(guó)新基建帶來了重要的變革力量。其中，AI技術(shù)作為其中的核心技術(shù)引擎，也在持續(xù)推動(dòng)多種技術(shù)向各個(gè)行業(yè)賽道的融合發(fā)展。
英特爾作為一家全球科技巨頭企業(yè)，其領(lǐng)先的軟硬件技術(shù)也為各行各業(yè)的AI生態(tài)建設(shè)提供了不可小覷的力量。未來，我們也期待英特爾能夠和更多合作伙伴一起，為共同推動(dòng)邊緣AI應(yīng)用向更多領(lǐng)域落地，實(shí)現(xiàn)行業(yè)智能化成熟發(fā)展。
