智東西(公眾號:zhidxcom)
作者 | 國仁 李水青
編輯 | 漠影

當(dāng)下中國科技圈,什么樣的創(chuàng)業(yè)公司最吃香?或許是身處爆發(fā)的大模型賽道,占據(jù)算力資源稀缺性,并獲得資本、市場及政策等多重青睞,且有著遠(yuǎn)大AGI藍(lán)圖前景的公司。

英博數(shù)科,就是這樣的一家公司。

從ChatGPT到Sora的爆火,智能算力成為一門公認(rèn)的“好生意”。盡管云巨頭相繼推出誘人的大模型訓(xùn)推“全家桶”,但實(shí)際可用的算力仍是稀缺資源,國內(nèi)AI企業(yè)紛紛患上“算力饑渴癥”……

成立不滿21個(gè)月的英博數(shù)科,成為了這一背景下國內(nèi)最吃香的“算力黑馬”之一。

它是半年拿下近30億元人民幣算力大單的新貴,目前落地的智算集群100%滿載運(yùn)行;它是大模型廠商的“香餑餑”,百川智能、MiniMax、深言科技等頭部大模型創(chuàng)企都涌入了其懷抱;它是“彩票大王”鴻博股份的全資子公司,踩著英偉達(dá)GPU算力紅利的順風(fēng),帶動鴻博股份股價(jià)在2023年最高飆漲580%……

英博數(shù)科的跨界突圍,離不開一位關(guān)鍵人物——鴻博股份副總裁、英博數(shù)科CEO周韡韡。

對話國產(chǎn)“算力黑馬”:27億元大單背后,英博數(shù)科周韡韡的AGI探索之路
▲鴻博股份副總裁、英博數(shù)科CEO周韡韡

她曾是媒體人,擁有澳大利亞阿德萊德大學(xué)金融學(xué)學(xué)士、悉尼大學(xué)傳播學(xué)碩士、國際政治經(jīng)濟(jì)關(guān)系博士學(xué)位,曾任澳視傳媒執(zhí)行董事、澳中文化友好交流協(xié)會秘書長及36氪副總裁。2021年底,周韡韡開始帶隊(duì)進(jìn)行智算行業(yè)調(diào)研,當(dāng)時(shí)就定下了“打造北京智算中心樣板”的目標(biāo)。

兩年之后,隨著2023年大模型與AIGC掀起熱潮,將英偉達(dá)推上萬億美元市值的王座,周韡韡不僅提前達(dá)成了兩年前立下的目標(biāo),還讓英博數(shù)科公司拿下了國內(nèi)最大資金規(guī)模的算力服務(wù)協(xié)議,甚至在最頂尖的云巨頭口中奪食。

與此同時(shí),關(guān)于“全棧式AGI生態(tài)服務(wù)平臺”的新定位,也讓英博數(shù)科的故事變得更有閃耀。英博數(shù)科被一些業(yè)內(nèi)人士拿來與估值達(dá)160億美元的美國算力獨(dú)角獸CoreWeave比較,但在周韡韡看來,如果將目光放向“中國版App Store+Hugging Face”,中國同行的價(jià)值甚至有望趕超CoreWeave。

從ChatGPT到Sora,周韡韡如何穩(wěn)踩智能算力市場的發(fā)展節(jié)奏點(diǎn)?從名不見經(jīng)傳到產(chǎn)業(yè)新星,英博數(shù)科做對了什么,又踩了哪些坑?面向未來,什么樣的智能算力產(chǎn)業(yè)發(fā)展道路最適合中國?

近日,智東西總編國仁獨(dú)家對話周韡韡,試圖從個(gè)體視角,揭開“百模大戰(zhàn)”混沌狂歡之下的智能算力產(chǎn)業(yè)真相。

對話國產(chǎn)“算力黑馬”:27億元大單背后,英博數(shù)科周韡韡的AGI探索之路

▲鴻博股份副總裁、英博數(shù)科CEO周韡韡(左)與智東西總編國仁(右)

一、從Sora浪潮聊到產(chǎn)業(yè)趨勢:通用大模型為王,智算產(chǎn)業(yè)現(xiàn)隱形護(hù)城河

國仁:進(jìn)入2024年以來,大模型領(lǐng)域爆點(diǎn)不斷,最讓您感到興奮的點(diǎn)是什么?

周韡韡:我感覺到興奮的點(diǎn),是能給我?guī)?span style="color: #0f59a4;">直接盈利收入的更多需求。

英博數(shù)科在2023年2月交付了國內(nèi)第一個(gè)英偉達(dá)推薦架構(gòu)、對外商業(yè)化運(yùn)營的標(biāo)準(zhǔn)智算集群。以前這種集群都是存在于科研院校,外部的人很難接觸到。當(dāng)智算集群建成時(shí),我才發(fā)現(xiàn)這個(gè)設(shè)備的稀缺性是因?yàn)樗?span style="color: #0f59a4;">沒有場景去釋放它的性價(jià)比。當(dāng)時(shí)我就想,我的用戶是誰?我用戶在哪兒?用戶付不付得起這個(gè)錢?

OpenAI的闖入解決了我的問題。去年初OpenAI的ChatGPT出來之后,我們發(fā)現(xiàn)原來它(這些智算設(shè)備)是多模態(tài)大模型訓(xùn)練的幾乎唯一選擇。今年2月Sora的出現(xiàn),進(jìn)一步讓大模型開發(fā)業(yè)內(nèi)人士意識到差距焦慮,使他們對于超大型智算集群的需求變強(qiáng),甚至愿意付出溢價(jià)的代價(jià)。

市場的這種反應(yīng),讓英博數(shù)科之前的商業(yè)規(guī)劃的預(yù)測得到了驗(yàn)證。即使128的集群可以找到,但512的集群只有我有,那我自然就會有一個(gè)稀缺性,就等于價(jià)值。

國仁:Sora和去年ChatGPT的爆發(fā)節(jié)奏很像,您認(rèn)為哪一個(gè)對智能算力產(chǎn)業(yè)的影響會更大?

周韡韡:我認(rèn)為是ChatGPT,因?yàn)樗歉?。AI行業(yè)的研究已有七八十年了,但ChatGPT出現(xiàn)了之后,才讓大家覺得這個(gè)技術(shù)跟我的生活工作是有相關(guān)度的。蒸汽機(jī)出現(xiàn)不算是工業(yè)革命,但是把蒸汽機(jī)裝到了火車、輪船和各種生產(chǎn)工具上提高效率,才是工業(yè)革命。

Sora其實(shí)就是讓我們看到了,把這種AI能力在一些細(xì)分場景上快速的實(shí)現(xiàn)。所以我覺得影響更大的肯定還是從根源上來講的。Sora本身的體量非常小,但它的出現(xiàn)對一些現(xiàn)象級的熱門視頻應(yīng)用降維打擊,連搶救都不用了,帶來了產(chǎn)業(yè)上的影響。

如果說過去我們對于“模型是做通用型還是做垂類型”這一問題還有分歧的話,到了這兒就完全沒有爭議了。Sora之所以能夠體量這么小,出現(xiàn)這么快,能力這么強(qiáng),就是因?yàn)樗哪P突鶋蛟鷮?shí)。我一直管這種通用型模型的這種基座,叫“大G”。這個(gè)大G的架構(gòu)決定了你可以“空中起高樓”,從上往下改。

所以即便當(dāng)時(shí)出現(xiàn)好多所謂的垂類應(yīng)用,但在我們當(dāng)初挑客戶的時(shí)候,只要你說是垂類的,我就不要。因?yàn)樵谖襾砜?,你說做垂類就等于急功近利。我特別認(rèn)可當(dāng)時(shí)百川發(fā)布時(shí)(中國科學(xué)院院士、清華大學(xué)人工智能研究院院長、清華大學(xué)計(jì)算機(jī)系教授)張鈸院士講到的觀點(diǎn):模型一定是通用的。

Sora帶來的可能是一個(gè)認(rèn)知的統(tǒng)一,但ChatGPT是帶來了行業(yè)上的一個(gè)質(zhì)變

國仁:工信部最新數(shù)據(jù)顯示,我國超10億參數(shù)大模型已超100個(gè)。從結(jié)果來看,現(xiàn)在的智能算力供給是存在過剩和浪費(fèi)還是遠(yuǎn)遠(yuǎn)不足?如果是過剩和浪費(fèi),產(chǎn)業(yè)要如何減少浪費(fèi)?如果不足,缺口有多大?

周韡韡:如果單從英博數(shù)科的情況來看,我們現(xiàn)在可以提供的算力是“1”,那么我簽的客戶需求大概是“10~15”的樣子。這里面還讓一個(gè)難受點(diǎn)是,我并不能夠因?yàn)檫@種稀缺度去漲價(jià)

從行業(yè)角度出發(fā)來看,一個(gè)好生意是給雙方都留下合理的利潤空間,你得考慮Sustainability(可持續(xù)性)的問題。GPU集群跟傳統(tǒng)的IDC機(jī)房不一樣——過去的IDC金租都按照三年回本的周期去計(jì)算,而GPU的回本周期要遠(yuǎn)遠(yuǎn)高于傳統(tǒng)的這個(gè)IDC機(jī)房。因?yàn)榛乇局芷陂L,我當(dāng)然希望我的客戶生存得也足夠久。所以雖然這個(gè)東西很稀缺,但你也要考慮到客戶的承受力,不能殺雞取卵。

國仁:按您這么說,應(yīng)該是一個(gè)嚴(yán)重的供不應(yīng)求的一個(gè)狀態(tài)?

周韡韡:超級嚴(yán)重供不應(yīng)求。我看到好像華為(副董事長、輪值董事長、CFO )孟晚舟講到缺口比例,比我們這個(gè)要大得多。而且現(xiàn)在他們(大模型)發(fā)展的速度太快了,就像工信部所說的“10億參數(shù)規(guī)模”的模型,模型我們很難用模型大小去衡量它,尤其是模型參數(shù)值現(xiàn)在變化也較快,你看到的小參數(shù)模型,它可能收斂做得比較好,在整個(gè)訓(xùn)練的過程里面(所需算力)是很大的。

國仁:算力最后發(fā)展的極限是什么?真的是無限地去擴(kuò)大單位芯片的算能嗎?

周韡韡:這一代的AI經(jīng)常用一個(gè)詞:調(diào)校,它已經(jīng)不走海量(堆算力)的路線了,而是走精準(zhǔn)稀缺路線,而且它現(xiàn)在的學(xué)習(xí)能力不用去拼量,而是拼質(zhì)。

國仁:你也提到一個(gè)回本周期,咱們是怎樣考慮的?

周韡韡:英博數(shù)科最初并不是說只想做一個(gè)智算中心,它其實(shí)是一個(gè)抓手。有了這個(gè)抓手,我們可以接觸到頭部客戶及開發(fā)者。所以其實(shí)從一開始規(guī)劃的時(shí)候,我們就有一個(gè)考量——除了從算力上追求收益,也從對這個(gè)企業(yè)提供算力服務(wù)、生態(tài)服務(wù)生態(tài)聯(lián)盟等方面獲取收益,這是一個(gè)綜合性的投資考量計(jì)劃。

國仁:那這塊進(jìn)展怎么樣呢?

周韡韡:進(jìn)展挺好。當(dāng)然跟OpenAI平臺上來就幾千個(gè)伙伴的差距很大。我所謂的我們的進(jìn)展好,是我們從一開始的時(shí)候給自己劃了四層,就是IaaS、PaaS、SaaS以及上層的數(shù)據(jù)模型服務(wù)的應(yīng)用層。目前來看,我們這四個(gè)層級不能說齊頭并進(jìn),但基本上都是有顯著的里程碑的進(jìn)度。

國仁:從已有智算中心應(yīng)用落地來看,哪些場景對智能算力服務(wù)的需求更大?訓(xùn)練和推理各占多少?客戶采用智能算力的動力是什么?

周韡韡:從GPU側(cè)來講的話,目前算力使用最多的是多模態(tài)大模型訓(xùn)練。這類需求團(tuán)隊(duì)在我們的平臺上已經(jīng)占到90%了,我們?nèi)绻豢酥扑苷嫉?00%。

但是要我們想稍微平衡一下。另外一部分是像類似于無問蒼穹、潞晨科技這種做算法加速層的,他們要去做生態(tài)的兼容性、場景加速應(yīng)用,這一類的客戶會比較多。然后像無人駕駛,曾經(jīng)無人駕駛和生物醫(yī)藥是我認(rèn)為占比非常高的一個(gè)板塊。

國仁:現(xiàn)在發(fā)現(xiàn)沒有成為非常高的板塊?

周韡韡:無人駕駛是有的,但生物制藥現(xiàn)在還沒有那么多,可能它的研發(fā)應(yīng)用沒太跟得上AI的節(jié)奏,但是單體的需求會非常大。一個(gè)生物制藥如果去做原創(chuàng)藥的研發(fā),這種AI制藥加速的的需求可以超過一個(gè)百川智能。

最初我們給自己定位AI有三個(gè)場景:高性能計(jì)算、推理和訓(xùn)練。當(dāng)時(shí)我們直接放棄了高性能計(jì)算和推理,專注做專業(yè)的AI多模態(tài)大模型訓(xùn)練平臺

現(xiàn)在來看,當(dāng)我們的客戶有了應(yīng)用,有了面對市場的服務(wù)之后,推理的需求肯定還是非常大的。但這需要一些合縱連橫來解決,因?yàn)橥评戆ㄔ贫私桓?、邊緣?cè)的規(guī)劃布局,不是我們一家能夠做成的事情。我們更傾向于去加入一個(gè)聯(lián)盟,或者大家做一些交換了解。

國仁:您認(rèn)為今年的我國“百模大戰(zhàn)”會進(jìn)入什么階段?智能算力產(chǎn)業(yè)發(fā)展的節(jié)奏如何?

周韡韡:這是一個(gè)媒體典型的問題,就像回去十年TMT行業(yè),包括O2O領(lǐng)域好像一直在戰(zhàn)斗。就我的觀點(diǎn),不管是提供算力的服務(wù)商,還是大模型的競爭,“百模大戰(zhàn)”在今年底就會出現(xiàn)一個(gè)拐點(diǎn)。

應(yīng)該說是該燃的就燃,該回點(diǎn)的就回點(diǎn)了?;旧线@個(gè)分水嶺已經(jīng)拉開了。我們現(xiàn)在已經(jīng)可以看到有很多的模型和應(yīng)用,或者是很明星式的創(chuàng)業(yè)者,實(shí)現(xiàn)了個(gè)人財(cái)富自由。但換成另外一句話來說,已經(jīng)從大模型市場和大模型融資的市場上消失了。

所以在今年的下半年,我覺得會有大批量這種企業(yè)出現(xiàn)——失去客戶的算力服務(wù)商,和用不了算力、解決不了融資問題的大模型研發(fā)團(tuán)隊(duì)——那只能面對現(xiàn)實(shí)。

國仁:我看過一個(gè)分析說,國內(nèi)產(chǎn)業(yè)的一個(gè)特點(diǎn)是,遇到一個(gè)什么事兒大家都蜂擁上去,然后快速競爭和洗牌。這樣的好處是行業(yè)能夠快速走向成熟,但問題是會導(dǎo)致大量的資源浪費(fèi),比如共享單車就有很多廢棄的單車。

周韡韡:我覺得這個(gè)是所有的商業(yè)發(fā)展從古到今競爭的一個(gè)必然結(jié)果。這個(gè)是通用的,只不過是有人可能覺得好像國內(nèi)的風(fēng)氣更甚,其實(shí)是看行業(yè)吧?

有時(shí)候其實(shí)是資本方和研發(fā)者之間的一個(gè)相互博弈的過程。當(dāng)市場上的熱錢都愿意投向一個(gè)方向的時(shí)候,逼得一批要求生的創(chuàng)業(yè)者往那個(gè)方向走。不管他自己具備不具備,或者是有多少的可能性能成,但是作為一個(gè)創(chuàng)業(yè)者,他最基本職業(yè)道德是生存,那自然就會有很多不適合的進(jìn)入到這里面,然后被淘汰掉。很多時(shí)候,資本市場起了很大的掣肘或是助攻的作用。

國仁:國內(nèi)創(chuàng)投現(xiàn)在比前幾年沒有那么猛的勢頭了,可能對創(chuàng)業(yè)的推動沒有之前那么熱情了?

周韡韡:我覺得是熱情的人少了,而不是不熱情,留下來的還挺激進(jìn)的。你看現(xiàn)在大模型的估值真的快投不起了,比如百川從去年4月是王小川天使輪5000萬美金,然后到12月份投資已經(jīng)是16億美金了,到現(xiàn)在已經(jīng)接近30億美金了(這個(gè)跟很多科創(chuàng)板上市的這個(gè)公司的市值差不多了)。能夠撐得起這樣投資值估值的投資者,你能說他熱情退了嗎?我覺得沒退,我都覺得他瘋了。

國仁:回到咱們的定位,智能算力提供者是要繼續(xù)做好“賣鏟子”的人,還是需要去推動大模型落地應(yīng)用?

周韡韡:我們從剛開始的專業(yè)訓(xùn)練平臺、算力平臺,到去年12月份轉(zhuǎn)型做全棧式AGI生態(tài)服務(wù)平臺,這里面就包括了推動模型的落地。

比如說剛才說大G研發(fā)出來之后,在跟細(xì)分產(chǎn)業(yè)做結(jié)合的時(shí)候會出現(xiàn)問題:因?yàn)楣こ倘藛T不可能了解每一個(gè)產(chǎn)業(yè),他需要類似于產(chǎn)品經(jīng)理的人幫他翻譯這個(gè)行業(yè),做溝通的橋梁。比如我們之前有嘗試把有經(jīng)驗(yàn)的編劇,做網(wǎng)絡(luò)投放高效的投手對接給像Minimax、百川,把他們的商業(yè)模式大模型結(jié)合,就(強(qiáng)調(diào))這種商業(yè)“攢局”的能力。

過去,他們(大模型客戶)剛開始淘金,我們?nèi)ベu鏟子;現(xiàn)在他們進(jìn)化了,我們應(yīng)該是從鏟子進(jìn)化到挖掘機(jī),甚至是抽油的

國仁:有人認(rèn)為當(dāng)下包括“彩票大王”、“味精大王”等跨界玩家都涌入智能計(jì)算,說明算力產(chǎn)業(yè)技術(shù)門檻在降低,進(jìn)入資源為王時(shí)代,對此您如何看待?

周韡韡:英博數(shù)科是(彩票大王)鴻博股份下一個(gè)全資子公司,是為了轉(zhuǎn)型做AI這個(gè)事情而生的。我覺得不管哪個(gè)產(chǎn)業(yè),想要去進(jìn)入到另外一個(gè)產(chǎn)業(yè),說明有更多人在看好這個(gè)產(chǎn)業(yè)。這說明AI算力產(chǎn)業(yè)是被看好的。

我一直覺得要做窄小深沉的事情,就是說你一定是細(xì)分的賽道、大廠不干的、邊緣夾縫里的、小團(tuán)隊(duì)能運(yùn)營的,然后護(hù)城河一定要深的,而且它得能夠足夠長遠(yuǎn)沉穩(wěn)的發(fā)展,不能是一個(gè)幾天就沒了的產(chǎn)業(yè)。AI剛好是這樣的一個(gè)產(chǎn)業(yè)。

如果說它(AI)入門的門檻低的話,只能說是剛開始的時(shí)候入門門檻的確是低的,這一點(diǎn)我承認(rèn)。對于傳統(tǒng)企業(yè)來講,你花錢就可以買到硬件設(shè)備。但是現(xiàn)在看的話,我們發(fā)現(xiàn)它的這種隱形的護(hù)城河已經(jīng)越來越高了。

現(xiàn)在參加一些活動,好像“萬卡集群”都不好意思提,都得說“十萬級”,這讓我瞬間感覺來了個(gè)科幻論壇。我覺得我們得面對現(xiàn)實(shí)

首先我們得去承認(rèn)混卡集群和同構(gòu)在同一個(gè)物理空間內(nèi)同一通訊集,本質(zhì)是完全不一樣的。你可以用云去把各種型號的混卡都交付出去,但這種算力是沒有辦法用于AGI多模態(tài)大模型的專業(yè)團(tuán)隊(duì)研發(fā)的。他們要的是超大型集群,要的是像OpenAI一樣,6萬張卡能夠串在一起去訓(xùn)練的集群。

我們現(xiàn)在國內(nèi)的話,還沒有這種千卡萬卡的試驗(yàn)田的土壤,而且集群的通訊是一加一小于二的,它有個(gè)通訊衰減的過程。所以這中間的調(diào)優(yōu)、網(wǎng)絡(luò)通訊、系統(tǒng)性開發(fā)和管理,其實(shí)是一道隱形的、非常深的護(hù)城河。

我們整體缺乏GPU方面的專業(yè)人才,也缺乏對GPU的實(shí)驗(yàn)土壤的了解。那這個(gè)時(shí)候英博數(shù)科其實(shí)占了一個(gè)先發(fā)優(yōu)勢,反而是比別人多做了一些練習(xí)和試驗(yàn)。

國仁:現(xiàn)在智算產(chǎn)業(yè)玩家大概分幾個(gè)梯隊(duì),大家的做法又有一些什么樣的不一樣?

周韡韡:目前智算產(chǎn)業(yè)玩家一種是自產(chǎn)自銷的大廠,它們現(xiàn)在已經(jīng)不對外提供GPU租用服務(wù)了,是完全是自用的狀態(tài),不提供市場化運(yùn)營。

另一類是像我們這種市場化運(yùn)營的服務(wù)商。國家現(xiàn)在鼓勵國企央企去進(jìn)行計(jì)算基建的投資,運(yùn)營交給類似于英博數(shù)科的市場化運(yùn)營的公司去做,這種模式在北京和上海已經(jīng)先開始了。

還有一類是設(shè)備還處在小規(guī)模,還在尋找客戶的初期階段的服務(wù)商。它們沒有進(jìn)入到128節(jié)點(diǎn)以上大集群,仍在16、32、64節(jié)點(diǎn)這個(gè)階段里面發(fā)展的一批智能算力玩家。

國仁:由于受制于芯片及算力上限,國內(nèi)的智能算力格局的發(fā)展形態(tài),會跟國外會呈現(xiàn)一個(gè)不同的態(tài)勢?

周韡韡:我覺得國內(nèi)外面臨的情況差不多。因?yàn)槭紫扔ミ_(dá)芯片供應(yīng)不足,它不是禁售或者是其他什么原因造成的。因?yàn)樗目ú弊訂栴}還是被臺積電卡脖子,受限于產(chǎn)能。

二、從CoreWeave聊到創(chuàng)業(yè)心路:太刺激了,每天都在變,選擇做最難的事

國仁:用一句話形容一下創(chuàng)業(yè)近兩年來的感受,您最先想到的是什么?

周韡韡:太刺激了。我們有工作人員來英博工作了三天之后就說:“太刺激了”,后來不止一個(gè)工作人員,這樣說,因?yàn)?span style="color: #0f59a4;">真的是變化特別快。包括政策上、技術(shù)方面、客戶需求的變化,在早上、中午、晚上都不一樣。

包括我自己發(fā)過好多次朋友圈,是我一個(gè)好閨蜜寫的一本書,說每個(gè)你看起來運(yùn)氣好到開掛的姑娘,其實(shí)都在成功的路上努力到踉蹌。一路走來我們現(xiàn)在還不能叫成功,“三年魔咒”就是九死一生?,F(xiàn)在進(jìn)入到AI時(shí)代之后,它不光是一個(gè)降本增效,同時(shí)帶來的是每一個(gè)行業(yè)的全生命周期都在縮短。

國仁:您如何看待外界將英博數(shù)科比作“中國版CoreWeave”的說法?近期有消息稱CoreWeave估值或飆升至160億美元,主要是什么成就了CoreWeave?國內(nèi)玩家有可能達(dá)到這樣的價(jià)值嗎?

周韡韡:我之前也有看過把英博跟CoreWeave放一起做比較,我就覺得這個(gè)簡直太看得起我們了,絕對是一個(gè)超高級別的。

前幾天我看了一個(gè)摩根大通的報(bào)告,提到現(xiàn)有的GPU或?qū)I(yè)高性能GPU的設(shè)備存量,CoreWeave在面占到了11%。11%的概念是什么?一些頂尖云大廠可能都是占1%不到,你可以想象到它體量有多大,幾乎是我們國內(nèi)所有加在一起都難以達(dá)到一個(gè)體量。如果說GPU現(xiàn)在已經(jīng)是這樣的一個(gè)有金融屬性的產(chǎn)品,CoreWeave有160億估值完全不奇怪。

然后第二個(gè),CoreWeave團(tuán)隊(duì)以前是做虛擬貨幣起家,所以對GPU接觸的熟悉的程度會比較早。然后它有英偉達(dá)的支持,雖然英偉達(dá)在中國本土和在美國本土都支持,但能夠做的范圍是相差非常遠(yuǎn)的。

所以如果我們從硬件體量上去拼估值的話,短期內(nèi)國內(nèi)沒有玩家能夠比得起。

但是我們在走一條不一樣的路。CoreWeave還是主做算力出租,就是我拿更多的貨,賣更多的設(shè)備。而且國外的算力租用的價(jià)格售賣比國內(nèi)貴很多。英博數(shù)科的定位是AGI全棧式的生態(tài)服務(wù)平臺。這聽起來有點(diǎn)抽象,換成具象一點(diǎn)的說法,就是我的客戶要什么我就提供,他缺算力我就給他算力,他要數(shù)據(jù)我就給他數(shù)據(jù),他缺商業(yè)化轉(zhuǎn)換的場景我就去幫他找,幫他擬合這種場景。

這個(gè)東西就像互聯(lián)網(wǎng)時(shí)候,那個(gè)市場很大,但你收入只有三塊,就是游戲、廣告、用戶付費(fèi)。我所有給客戶提供的各種各樣的服務(wù),最終會變成是算力帶來的收入,比如說數(shù)據(jù)、模型、加速、PaaS層帶來的云收入,以及我給客戶提供的各種商業(yè)擬合創(chuàng)造,甚至投融資帶來的企業(yè)服務(wù)的收入,就是這三類收入。

如果從這個(gè)收入的組成上來看,它肯定比單一硬件的估值要來的高。從長遠(yuǎn)來講的話,我覺得我們國內(nèi)的這樣的一個(gè)生態(tài)發(fā)展模式的話,是可以產(chǎn)生更高估值的公司的。

國仁:2021年底您開始著手籌劃創(chuàng)業(yè),定下的目標(biāo)是打造北京智算中心樣板。當(dāng)時(shí)為什么會有這樣一個(gè)明確具體的目標(biāo)?有什么樣的契機(jī)?

周韡韡:這個(gè)目標(biāo)是寫在合同里了,是跟投資方定的。英博數(shù)科前身發(fā)展是來自于北京AI創(chuàng)新賦能中心,英偉達(dá)一個(gè)針對中國的生態(tài)發(fā)展特別計(jì)劃而來的。這個(gè)計(jì)劃從2016年推出到現(xiàn)在一直有,我們看到的時(shí)候已經(jīng)是一個(gè)非常完整的規(guī)劃了,合作范圍不只是算力,更多是生態(tài)發(fā)展以及合作方式,還有發(fā)展目標(biāo)最終要達(dá)到什么樣,都是有非常清晰的定義的。

國仁:決定創(chuàng)業(yè)之初,您對這項(xiàng)創(chuàng)業(yè)可能遇到的困難有充分的預(yù)判嗎?還記得哪些人給了你非常重要的意見,受用至今?從投資人到創(chuàng)業(yè)者,您為此做了哪些準(zhǔn)備?

周韡韡:貴人好多。包括(百川智能創(chuàng)始人)王小川給了我們很多關(guān)于直接定位的指導(dǎo)建議,包括放棄HPC和推理場景,專注于做訓(xùn)練,我們的第一批設(shè)備也是和百川一塊兒跟英偉達(dá)的遠(yuǎn)程技術(shù)支持做的調(diào)通;還有張鈸院士非常清楚的告訴我們,所有的東西一定要回歸到加速生產(chǎn)力上,回歸本質(zhì),不能飄。然后一定要研究通用模型,打好基本功,再去說做垂類場景的應(yīng)用。

包括(御風(fēng)集團(tuán)董事長)馮侖,最近馮叔就特別強(qiáng)調(diào)說,你們一定要有世界觀、中國心、專業(yè)技術(shù)和本土功夫,對我說一定要做到企業(yè)不關(guān)門,個(gè)人不被抓,合規(guī)合法很重要;包括像我閨蜜在我做跨界轉(zhuǎn)型時(shí)不停給我鼓勵;我們家里一直有一句話,說“在不知道做哪件事兒的時(shí)候,去做那個(gè)最難的”。

國仁:英博數(shù)科創(chuàng)立至今經(jīng)歷了哪些關(guān)鍵節(jié)點(diǎn)?

周韡韡:第一個(gè)關(guān)鍵節(jié)點(diǎn),我記得是在2022年7月,當(dāng)時(shí)正值我們計(jì)劃跟英偉達(dá)美國簽約,簽約卻一天天被擱置。后來我們就分析說這個(gè)跟佩洛西訪臺有關(guān)系,中間如果要出現(xiàn)點(diǎn)什么摩擦,估計(jì)這個(gè)計(jì)劃合作就黃了。一直到佩洛西走了之后,第二天合同就回來了。所以那個(gè)節(jié)點(diǎn)的話,我覺得就是蝴蝶效應(yīng),國際局勢竟然牽扯到了我們一個(gè)很小的公司的發(fā)展。

第二個(gè)節(jié)點(diǎn)是簽約之后,馬上就可能出來一個(gè)限售政策。在限售政策下,你在兩個(gè)都可選的情況下,英博數(shù)科是選擇拿A100還是A800?這就要戰(zhàn)略性地思考限售政策會不會進(jìn)一步收緊,還是有可能會緩和。如果緩和的話,大廠開始大批量出錢去買貨的話,我們該怎么面對這種沖擊?這個(gè)時(shí)候我們就在美國設(shè)了專業(yè)的法務(wù)公關(guān)和商務(wù)團(tuán)隊(duì),就各種政策去提前做分析,從而提前預(yù)判了禁售政策的執(zhí)行。

我們從第一批設(shè)備剛選完,就開始加速設(shè)備團(tuán)購。當(dāng)然這有賭的成分在,但我們堅(jiān)信國內(nèi)自研大模型的需求量一定很大,所以一定要抓緊囤貨。

然后再到最近,應(yīng)該說我們面臨兩個(gè)挺大的節(jié)點(diǎn)。一個(gè)是我們的母公司上市公司被宣布為無實(shí)控,這個(gè)對我們變成了一個(gè)挑戰(zhàn),畢竟還有很多事情需要得到母公司的授權(quán)和許可,就會造成一些決策的不暢,包括給你資金上帶來的障礙。

一個(gè)是更貼近實(shí)際的一個(gè)難點(diǎn),就是當(dāng)我們有了512節(jié)點(diǎn)的設(shè)備,1024節(jié)點(diǎn)的設(shè)備,但是面對這樣4000卡、8000卡、近萬卡的集群的時(shí)候,我們怎么能讓它高效跑通?這個(gè)其實(shí)就是調(diào)優(yōu)方面的一些問題了。現(xiàn)在市場也有這樣的公司,比如硅基流動CEO袁進(jìn)輝老師做的研究,都是在這個(gè)方向。我們現(xiàn)在的做法就是讓大家都來吧,把我這兒當(dāng)成一塊試驗(yàn)田。

國仁:方便透露最新的團(tuán)隊(duì)規(guī)模嗎?在組織架構(gòu)方面,英博數(shù)科如何排兵布陣?有什么樣的人才計(jì)劃?

周韡韡:我們的規(guī)模不大,剛開始設(shè)備沒有到貨之前,我們只有幾個(gè)核心技術(shù)人員存在,以及一些面向公司籌備的行政、市場人員,那時(shí)是一個(gè)投行背景的團(tuán)隊(duì)。就像我現(xiàn)在的合伙人邱領(lǐng),是在美國硅谷銀行做了三年,之后被派回中國硅谷銀行工作三年,負(fù)責(zé)過上百個(gè)初創(chuàng)型企業(yè)的孵化加速。另外那時(shí)市場團(tuán)隊(duì)里面大多是有海外留學(xué)經(jīng)驗(yàn)的,包括我們現(xiàn)在在招聘技術(shù)人員的時(shí)候,也不見得一定要有過實(shí)操經(jīng)驗(yàn),因?yàn)檫@個(gè)行業(yè)太新了,會更看重應(yīng)聘者的自驅(qū)學(xué)習(xí)能力和理解能力,以及在工作上面一專多能的態(tài)度。

目前我們差不多快100人的樣子。技術(shù)團(tuán)隊(duì)大概占到70%,技術(shù)團(tuán)隊(duì)其中也有一部分是做機(jī)房運(yùn)營運(yùn)維的,包括一些運(yùn)維系統(tǒng)工程師,然后另一部分是做(英博數(shù)科研發(fā)的GPU云管平臺)搏博云的研發(fā)。

國仁:團(tuán)隊(duì)已經(jīng)從金融背景完全變成技術(shù)主導(dǎo)的公司了?

周韡韡:我們是一個(gè)輕研發(fā)重集成的公司。因?yàn)榈讓右呀?jīng)提供了大量的毛坯的東西,需要你像玩樂高一樣去搭積木了。

然后像我們現(xiàn)在的早期的這種投行團(tuán)隊(duì)的同學(xué),在上市公司給我們帶來資金問題的時(shí)候,就發(fā)揮出來了極大的價(jià)值,通過一級二級市場各種融資方式,幫公司解決現(xiàn)金流和發(fā)展問題。如果是只看現(xiàn)金流的話,英博數(shù)科第一個(gè)月現(xiàn)金流就是正向的。

三、從10億級大單聊到商業(yè)化之路:機(jī)器滿轉(zhuǎn),交付體驗(yàn)是新階段重點(diǎn)

國仁:去年,英博數(shù)科有三個(gè)項(xiàng)目最為矚目,分別是京能10億元智算中心項(xiàng)目、百川智能近14億元算力大單、MiniMax近3億元的大單,目前這三個(gè)項(xiàng)目算力的應(yīng)用情況分別如何?機(jī)器使用率有多少?

周韡韡:首先這三個(gè)項(xiàng)目上統(tǒng)一的特點(diǎn)是,機(jī)器的使用率是都已經(jīng)100%了。因?yàn)槲覀儾季质且恍枨笫鞘?,沒有任何設(shè)備是被閑置的。

國仁:對于目前英博數(shù)科落地的智能算力服務(wù),您打多少分?為什么?

周韡韡:這個(gè)打分的話看怎么打,我是一個(gè)比較推崇鼓勵的。從行業(yè)角度來看,由于行業(yè)之前沒有GPU云,目前國內(nèi)大家都處在一個(gè)起步的階段。我可以自信一點(diǎn)說我是100分,我也可以謙虛一點(diǎn)說,我和大家差不多了解。因?yàn)榇蠹铱赡芏歼€在去定義、優(yōu)化、完善的一個(gè)階段。

而且在這個(gè)階段,我覺得現(xiàn)在國內(nèi)的AGI的市場,跟那時(shí)候(此前互聯(lián)網(wǎng))戰(zhàn)斗的市場不一樣,大家是一個(gè)競合的市場,互相之間交流特別多。比如現(xiàn)在你經(jīng)??梢钥吹筋^部智譜AI的唐杰老師或者張鵬老師,跟百川、Minimax的CTO坐在一起,就一個(gè)問題直接在臺上爭起來了。但大家爭完之后,又是一個(gè)既競爭又合作的關(guān)系,不介意跟競爭對手分享踩坑經(jīng)驗(yàn)。

國仁:自部分智算中心算力啟用以來,產(chǎn)品目前的用戶使用情況如何?收到了什么樣的用戶反饋?這使得團(tuán)隊(duì)的聚焦點(diǎn)有什么新調(diào)整和布局?

周韡韡:收到的客戶反饋應(yīng)該說是投訴大于表揚(yáng)。當(dāng)然這個(gè)也不完全是英博數(shù)科造成的,也有本身原廠家造成。原廠家質(zhì)量也是很成問題的一個(gè)事情,包括在壞了之后換修這種客觀上增添了一些困難,的確給我們在過去造成了不少投訴。對此,我們只能按照合同條款進(jìn)行補(bǔ)償,大家遵守契約精神。但因?yàn)楝F(xiàn)在市場太稀缺了,所以客戶也給了我們很大的一個(gè)包容性。

接下來往下一步去走的話,我們更看重的第一個(gè)是GPU云平臺這個(gè)交付體驗(yàn)的問題;第二個(gè)是GPU云平臺作為一個(gè)生態(tài)入口上面交易的活躍度的問題;第三個(gè)我們跟很多家一起共同成立的算力創(chuàng)新賦能中心,對于融合替代創(chuàng)新解決方案的問題,我們不分AMD卡還是英偉達(dá)卡,不分國產(chǎn)還是國內(nèi)生態(tài),我們只看大的AGI生態(tài)。

國仁:前面你也提到了,咱們團(tuán)隊(duì)整體是重集成輕研發(fā)的布局,那么公司如何分配公司在硬件、軟件和服務(wù)層的資源投入?

周韡韡:沒有刻意的去側(cè)重,但是它天然造成了一個(gè)占比分配。首先硬件一定是占比最大的,第一個(gè)階段剛起步時(shí),我們90%的錢都用在硬件上了。然后現(xiàn)在,因?yàn)槲覀冇辛硕喾N多樣的硬件合作模式,比如說新的客戶來采購并委托給我們代運(yùn)營,這種方式轉(zhuǎn)嫁了我的采購和折舊成本,那這方面投入就會逐步降低。這個(gè)階段我們在做云研發(fā),在做運(yùn)維工程師的培訓(xùn),在整個(gè)生態(tài)拓展的引入方面投入也好,收入也好,就會逐步的增加。

國仁:在去年跟您聊的時(shí)候,您提到英博數(shù)科跑贏同行的主要優(yōu)勢是“有算力”。但存量算力是有限的,英博數(shù)科這一優(yōu)勢能保持多久?如何保持?

周韡韡:我覺得這到最后就是結(jié)果決定關(guān)系,我們看一個(gè)結(jié)果就可以了。不管今天說你是有算力還是沒算力,能干還是不能干,結(jié)果是你有沒有客戶,你的客戶有沒有變多。那從這個(gè)角度上來講,英博以前的老客戶仍然存在,新的客戶不斷進(jìn)來,我覺得這個(gè)就已經(jīng)說明了我們的所有能力。

國仁:您之前談到“英偉達(dá)幾乎是提供算力硬件的最佳選擇”,這是不是意味著英博數(shù)科不太會去考慮國產(chǎn)硬件?

周韡韡:會,我們現(xiàn)在一直在嘗試。我們?nèi)L試了很多種,不只是國產(chǎn),像非常早的時(shí)候AMD的卡還沒有做限售通知的時(shí)候,就提供給我們了。我們做過AMD的,也試過海光的,然后我們也通過跟合作方像百川智能和智源研究院這種去看過華為昇騰、寒武紀(jì)這些。包括我們跟軟通、華鯤這邊的溝通都非常頻繁。

而且當(dāng)我們的客戶發(fā)展到一定階段,推理的需求一定會上漲。那這個(gè)時(shí)候就會有大量的國產(chǎn)算力去填補(bǔ)這個(gè)市場的,這跟英偉達(dá)的合作是不沖突的。

國仁:在英博數(shù)科的規(guī)劃中,公司要跟英偉達(dá)學(xué)生態(tài)做中國版App Store+Hugging Face。為什么不延用英偉達(dá)的生態(tài),或延用其他云巨頭的生態(tài)?

周韡韡:這個(gè)其實(shí)回到我們剛開始第一個(gè)問題,跟討論CoreWeave有點(diǎn)類似了。英偉達(dá)的成功使我們看到了生態(tài)的價(jià)值。但是在哪里去發(fā)展這個(gè)生態(tài),用什么樣的方式發(fā)展,是要結(jié)合我們自己的情況。這就有個(gè)“橘生淮南還是淮北”的問題了。我們是存在著硬件軟件各方面先天性受限的,在這種情況下,我們要想發(fā)展生態(tài),首先你得有足夠的基數(shù)人群。

這就解釋了我們?yōu)槭裁茨敲纯粗叵?span style="color: #0f59a4;">Hugging Face模式。因?yàn)樗m不適合做這一行,你得先讓他看到這一行。你要為這個(gè)產(chǎn)業(yè)考慮,只有加入進(jìn)來的人越多,你才在有可能在以后賺得更多。其實(shí)國內(nèi)是完全具備這個(gè)條件,包括我們也看到阿里云的魔塔社區(qū),也是在走這個(gè)方向。我們必須去找更多的人進(jìn)來加入,才能去找到更多的可能性

然后像App Store這種方式,我們主要強(qiáng)調(diào)是它對于我們平臺在未來的一種盈利的模式。就比如說現(xiàn)在蘋果它其實(shí)是硬件賺錢,但是它的App Store毛利更高,幾乎收入接近于毛利。

所以我們未來給自己的一個(gè)目標(biāo)和盈利模式的定位,就是我剛才所謂的云收入,我們的企業(yè)服務(wù)收入。

國仁:英博數(shù)科有哪些獲利模型?方便透露英博數(shù)科的盈利情況嗎?

周韡韡:鴻博股份去年的年報(bào)做了扭虧的預(yù)告,這個(gè)扭虧主要是來自于英博數(shù)科。實(shí)事求是地說,目前收入來源仍是以算力服務(wù)為主,此外,我們也跟京能合作共建算力中心項(xiàng)目,在2023年底,這一部分收入貢獻(xiàn)較大。但是在未來的話,智算中心的運(yùn)營服務(wù)也會是一個(gè)重要收入來源。然后像隨著云業(yè)務(wù)、數(shù)據(jù)業(yè)務(wù)一點(diǎn)點(diǎn)起來,還有具體應(yīng)用場景撮合,這些服務(wù)收入肯定是要越來越高的。

國仁:那如果要拓展這些創(chuàng)新服務(wù),咱們的銷售體系架構(gòu)就不一樣了?

周韡韡:實(shí)話實(shí)說,我們現(xiàn)在沒有(主動)銷售。因?yàn)槲覀儾恍枰夸N售,反而需要挑客戶因?yàn)槲覀儧]有東西可賣。那我們的這個(gè)商務(wù)團(tuán)隊(duì)是在干嘛呢?他們在去尋找生態(tài)合作伙伴,就是找一些想要在當(dāng)?shù)亻_展AI業(yè)務(wù)的項(xiàng)目,以算力或者是資金的形式去扶植加速他們的發(fā)展。

國仁:公司接下來有什么重要新品要發(fā)布,有什么樣的時(shí)間表可以公布嗎?

周韡韡:我們?nèi)ツ曜隽艘粋€(gè)AI Tech Day的活動,今年會把這個(gè)活動延續(xù)下來。

一方面,是會發(fā)布我們自己的產(chǎn)品和解決方案,但是以后占的比例肯定會越來越少了。我們自己產(chǎn)品解決方案主要是集中在搏博云的進(jìn)展,還有大型集群通訊到了哪個(gè)階段,這方面的一些討論。

另一方面,我們最主要的是想給客戶創(chuàng)造一個(gè)展示自己的平臺。應(yīng)該說是會有更多的客戶,不管是競品之間的交流,還是已經(jīng)有的垂類應(yīng)用,在過去已經(jīng)產(chǎn)生的這種貢獻(xiàn)和作用。類似于算力接入各種生產(chǎn)力的場景,也是我們以后想在本次中國生成式AI大會活動中展現(xiàn)出來的。