智東西（公眾號(hào)：zhidxcom）
作者 | GenAICon 2024
2024中國生成式AI大會(huì)于4月18-19日在北京舉行，在大會(huì)第二天的主會(huì)場(chǎng)AI Infra專場(chǎng)上，Zenlayer行業(yè)拓展總監(jiān)陳秀忠以《大數(shù)據(jù)、大算力與大模型驅(qū)動(dòng)下的全球廣域網(wǎng)挑戰(zhàn)與策略》為題發(fā)表演講。
大數(shù)據(jù)、大算力、大模型推動(dòng)AI能力涌現(xiàn)，正在改變當(dāng)代人們與世界互動(dòng)的方式。要充分發(fā)揮AI的潛力，需要高效、安全、可靠的全球網(wǎng)絡(luò)支撐。
然而，當(dāng)前全球廣域網(wǎng)在滿足AI應(yīng)用在對(duì)數(shù)據(jù)流動(dòng)、算力配備和網(wǎng)絡(luò)性能的需求方面，依然面臨挑戰(zhàn)。數(shù)據(jù)流動(dòng)的高效與安全、算力資源的優(yōu)化配置與協(xié)同工作，以及訓(xùn)練與推理節(jié)點(diǎn)之間網(wǎng)絡(luò)性能的優(yōu)化，成為當(dāng)前全球廣域網(wǎng)亟待解決的問題。
對(duì)此，陳秀忠認(rèn)為通往更高級(jí)AGI，挑戰(zhàn)在于更即時(shí)的交互、更廣的數(shù)據(jù)、更廣的算力。因此，面向AGI的全球邊緣云方案，不僅需要考慮支持實(shí)時(shí)交互的全球網(wǎng)絡(luò)、數(shù)據(jù)本地存儲(chǔ)和全球流動(dòng)，同時(shí)，也要覆蓋大量的邊緣節(jié)點(diǎn)。
陳秀忠談道，安全合規(guī)的跨境專線是企業(yè)連接全球的第一跳。一大挑戰(zhàn)在于，數(shù)據(jù)合規(guī)性讓全球數(shù)據(jù)監(jiān)管力度加大，一旦數(shù)據(jù)本地化，企業(yè)又將何去何從？
以下為陳秀忠的演講實(shí)錄：
我有一個(gè)問題想和大家討論：CPU和GPU之間的本質(zhì)區(qū)別是什么？我認(rèn)為最重要的一點(diǎn)是，GPU專注于圖形處理。
現(xiàn)在，我們一起快速地探索AIGC或全球網(wǎng)絡(luò)的整體情況。以下是大致的議程：現(xiàn)在的情況如何，存在什么挑戰(zhàn)，我們的方案又是什么？
一、AI能力為何涌現(xiàn)？“大”力出奇跡
今天關(guān)于AI基礎(chǔ)設(shè)施的主題的演講有很多，包括網(wǎng)絡(luò)、數(shù)據(jù)以及模型的訓(xùn)練和推理等。全球邊緣網(wǎng)絡(luò)中主要的資源集中在算力和數(shù)據(jù)方面。
這張畫是我孩子繪制的作品，因?yàn)橐獏⒓颖荣?，所以需要給這幅畫取個(gè)名字。我把這項(xiàng)工作交給了ChatGPT。在此之前，我們?cè)鵀檫@個(gè)問題爭(zhēng)吵不休，不知道該給這幅畫取什么名字。為什么ChatGPT有這樣的能力？實(shí)際上，AI技術(shù)已經(jīng)在學(xué)術(shù)界和工業(yè)界發(fā)展了四十多年。然而我們是在過去的一兩年中才覺得AI非?？帷?/p>
我們來看看這個(gè)圖。
第一，手機(jī)很多。現(xiàn)在全球手機(jī)數(shù)量已經(jīng)高達(dá)86億部。每一部手機(jī)都在扮演著將物理世界數(shù)字化的角色，從而創(chuàng)造了大量的數(shù)據(jù)。
第二，NVIDIA很厲害。NVIDIA在GPU領(lǐng)域有著幾十年的深厚積累，并且有個(gè)定律——每6個(gè)月，GPU的能力將翻倍。這一速度是摩爾定律的3倍。
第三，大模型。這些“大”模型已經(jīng)創(chuàng)造了許多奇跡，并且它們的能力正在不斷涌現(xiàn)。
回顧過去，去年很多人開始使用ChatGPT，但是逐漸地，ChatGPT的活躍度卻在回落。此外，在我與許多人溝通時(shí)，我發(fā)現(xiàn)人們真正敢將工作交給ChatGPT，是因?yàn)槿匀挥袡C(jī)會(huì)進(jìn)行確認(rèn)。我們也研究了DeepMind團(tuán)隊(duì)對(duì)于AGI（通用人工智能）的分層。
目前，ChatGPT仍處于非常初級(jí)的階段，即L1階段。還有許多級(jí)別需要攀升，因此實(shí)現(xiàn)AGI的道路還非常遙遠(yuǎn)。
剛才提到，AI涌現(xiàn)的三個(gè)主要的因素是大數(shù)據(jù)、大算力和大模型?，F(xiàn)在再來思考一個(gè)問題，當(dāng)AIGC變得非常出色時(shí)，當(dāng)一個(gè)與真人幾乎一模一樣的虛擬人與我進(jìn)行對(duì)話和互動(dòng)時(shí)，接下來會(huì)發(fā)生什么？我需要與這個(gè)虛擬人進(jìn)行快速的交互，這是一個(gè)非常重要的因素。
二、通往更高級(jí)AGI，面臨三大挑戰(zhàn)
我們總結(jié)了幾個(gè)挑戰(zhàn)。
第一個(gè)挑戰(zhàn)是更即時(shí)的交互。如果AIGC要給人帶來非常出色的體驗(yàn)，那么即時(shí)交互就會(huì)成為其中的關(guān)鍵。當(dāng)我觀看短視頻或長視頻時(shí)，這些內(nèi)容并非UGC或者PGC產(chǎn)生，因此是缺乏新鮮感的，就像是經(jīng)過冷凍處理的內(nèi)容。
這張圖表展示了人與人之間的互動(dòng)以及人與內(nèi)容之間的互動(dòng)。最終，所有這些都指向一個(gè)共同點(diǎn)，那就是人。只不過，這個(gè)“人”是一個(gè)機(jī)器。如果這個(gè)機(jī)器人真的能夠與人類如此相似，那么這將是一種非常好的體驗(yàn)，而這也就意味著即時(shí)交互在全球范圍內(nèi)是通往AGI的重要挑戰(zhàn)。
第二個(gè)挑戰(zhàn)是更廣的數(shù)據(jù)。盡管我們已經(jīng)將目前可以獲取的所有數(shù)據(jù)都提供給了大模型，包括所有的書籍、學(xué)者發(fā)布的論文以及各種各樣的數(shù)據(jù)，但仍然存在很多數(shù)據(jù)難以提供給大模型，比如一些政府?dāng)?shù)據(jù)和封閉平臺(tái)的數(shù)據(jù)就很難被獲取。
那么，我們?nèi)绾尾拍軐⑦@些數(shù)據(jù)提供給大模型呢？我們注意到全球范圍內(nèi)的一個(gè)最大難題是，各國都有自己的數(shù)據(jù)隱私保護(hù)法規(guī)，因此數(shù)據(jù)在全球范圍內(nèi)的流動(dòng)面臨著很大的挑戰(zhàn)。
第三個(gè)挑戰(zhàn)是更廣的算力。當(dāng)在美國一個(gè)州進(jìn)行10萬張H100訓(xùn)練時(shí)，可能導(dǎo)致電網(wǎng)癱瘓。這意味著我們需要盡量分散計(jì)算力，以緩解電力限制的壓力。
在推理階段，我們對(duì)計(jì)算力的需求更高，因?yàn)槊看瓮评矶紩?huì)消耗一定的資源，而推理與用戶請(qǐng)求數(shù)量直接相關(guān)。未來，無論是因?yàn)橥评硇枰咏脩?，還是推理次數(shù)增加，都需要關(guān)注推理部分的計(jì)算能力。
根據(jù)這三個(gè)挑戰(zhàn)，可以得出一些小的結(jié)論。
首先，對(duì)于更即時(shí)的交互，需要建立全球范圍內(nèi)的即時(shí)交互網(wǎng)絡(luò)。二是需要更廣的數(shù)據(jù)，思考如何生成和流動(dòng)這些數(shù)據(jù)，以及如何解決各國對(duì)數(shù)據(jù)隱私的保護(hù)。三是需要更廣泛的計(jì)算能力，同時(shí)我們也要考慮到，推理和訓(xùn)練的計(jì)算能力應(yīng)盡量分開。
三、語言、地理、戰(zhàn)爭(zhēng)，全球網(wǎng)絡(luò)碎片化的三大挑戰(zhàn)
我們說網(wǎng)絡(luò)很重要，尤其是全球范圍內(nèi)的網(wǎng)絡(luò)至關(guān)重要。盡管我們?cè)L問外網(wǎng)時(shí)可能會(huì)遇到性能挑戰(zhàn)，但國內(nèi)網(wǎng)絡(luò)通達(dá)性非常好。
然而，全球范圍內(nèi)的網(wǎng)絡(luò)卻是碎片化的。這是因?yàn)槿蚋鲊g的網(wǎng)絡(luò)互通主要依靠海底光纜，而這些海底光纜還面臨著諸多問題，導(dǎo)致全球網(wǎng)絡(luò)出現(xiàn)了許多挑戰(zhàn)。
第一張圖展示了東南亞國家的網(wǎng)絡(luò)情況。盡管東南亞的面積和人口僅為中國的一半，但卻有十幾個(gè)國家，且語言也各不相同。例如，泰國和越南這兩個(gè)毗鄰的國家之間的互聯(lián)通信需要70多毫秒，因?yàn)樗鼈冃枰ㄟ^新加坡進(jìn)行中轉(zhuǎn)。
第二張圖展示了南美洲的情況。南美洲的地理格局有些奇特，東邊是巴西，西邊是秘魯，盡管它們的物理距離很近，但由于地理因素，如南北延伸的山脈和亞馬遜熱帶雨林的存在，導(dǎo)致陸地光纜無法通行，必須繞過整個(gè)南美洲一圈才能實(shí)現(xiàn)互聯(lián)。
第三個(gè)因素是戰(zhàn)爭(zhēng)，特別是在中東市場(chǎng)。我們可以清楚地看到以色列到阿聯(lián)酋之間的網(wǎng)絡(luò)需要160毫秒，盡管它們的物理距離可能只有十幾毫秒。這三個(gè)因素共同決定了全球網(wǎng)絡(luò)與中國國內(nèi)網(wǎng)絡(luò)之間存在著非常大的差異。
四、安全合規(guī)的跨境專線，中國企業(yè)走向國際市場(chǎng)的第一跳
現(xiàn)在所有客戶在海外部署關(guān)鍵應(yīng)用的需求就是專線。中國企業(yè)要走向國際市場(chǎng)，跨境專線是非常重要的一部分。這張圖展示了中國整個(gè)跨境陸纜和海纜的布局，主要從上海、廣東、香港以及北京前往俄羅斯，或者新疆。
這張圖展示了全球各個(gè)國家對(duì)個(gè)人隱私的重視程度，導(dǎo)致許多數(shù)據(jù)無法直接離開其所在國家。
最近我和一位從事汽車行業(yè)的朋友聊過，他們?cè)跉W洲產(chǎn)生了大量數(shù)據(jù)，但如果要用這些數(shù)據(jù)進(jìn)行研究，他們必須親自前往歐洲進(jìn)行處理。
然而，數(shù)據(jù)合規(guī)性讓全球數(shù)據(jù)監(jiān)管力度加大，一旦數(shù)據(jù)本地化，企業(yè)又該如何解決？
有一個(gè)案例，同樣是一家汽車企業(yè)，他們?cè)谌虍a(chǎn)生大量數(shù)據(jù)，需要在各地進(jìn)行本地存儲(chǔ)。因此，他要回到杭州，用一些全球加速的方案讓數(shù)據(jù)快速傳回杭州。
大家對(duì)時(shí)延有沒有概念？這張圖展示的是以德國法蘭克福為中心，覆蓋整個(gè)歐洲的互聯(lián)網(wǎng)時(shí)間情況，當(dāng)網(wǎng)絡(luò)通往東歐時(shí)，延遲時(shí)間急劇增加，超過了30或50毫秒。由于公有云很難在每個(gè)國家都設(shè)置邊緣節(jié)點(diǎn)，因此需要大量的邊緣節(jié)點(diǎn)來覆蓋這些地區(qū)，比如土耳其、保加利亞等，以提高真正即時(shí)交互的體驗(yàn)。
簡(jiǎn)而言之，我們公司在全球各地都設(shè)有一些邊緣服務(wù)，可以幫助用戶在當(dāng)?shù)孬@取算力，東南亞、中東地區(qū)我們都有覆蓋，在東南亞的十幾個(gè)國家和每個(gè)國家的首都也都有當(dāng)?shù)毓?jié)點(diǎn)，在南美洲和非洲也有完整的覆蓋。至于歐美地區(qū)，這是傳統(tǒng)網(wǎng)絡(luò)覆蓋比較好的地方，例如美國的美東、美西地區(qū)都有廣泛的覆蓋，歐洲的保加利亞和莫斯科也有覆蓋。
我們公司已經(jīng)服務(wù)中國企業(yè)出海十多年了，我們的logo布滿了整面墻，包括最早的游戲、汽車企業(yè)，以及大型公有云，都是我們出海的主要客戶。
總結(jié)一下，AI已經(jīng)為我們做了一些事情，但要實(shí)現(xiàn)真正的AGI還有很長的路要走。在通往真正AGI的路上，有許多挑戰(zhàn)，如需要更多的數(shù)據(jù)、更廣泛的算力，以及全球范圍內(nèi)即時(shí)交互的網(wǎng)絡(luò)。我們公司則可以在這方面幫助大家。
以上是陳秀忠演講內(nèi)容的完整整理。
