智東西（公眾號：zhidxcom）
作者 | 程茜
編輯 | 漠影
AI應(yīng)用卷出新高度！
智東西4月22日報道，上周，浪潮信息宣布“元腦”品牌重磅升級，在算力、算法、數(shù)據(jù)、互聯(lián)方面全面布局，一舉亮相多個面向大模型落地應(yīng)用的工具套件。
浪潮信息專門面向大模型應(yīng)用分別打造了企業(yè)大模型開發(fā)平臺“元腦企智”EPAI、可單機運行千億參數(shù)大模型的AI通用服務(wù)器、大模型應(yīng)用專用存儲AS13000G7-N系列以及超級AI以太網(wǎng)交換機“X400”。
其中，EPAI作為企業(yè)AI大模型落地應(yīng)用的高效、易用、安全的端到端開發(fā)平臺，提供了數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、知識檢索、應(yīng)用框架等系列工具，支持企業(yè)調(diào)度多元算力和多模算法，大幅加速其高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。
浪潮信息董事長彭震談道，應(yīng)用已成為中國AI產(chǎn)業(yè)的核心優(yōu)勢之一。應(yīng)用創(chuàng)新源自需求驅(qū)動，需要算法、算力和數(shù)據(jù)協(xié)同發(fā)展，以系統(tǒng)為核心的全局創(chuàng)新已成為推動人工智能高速發(fā)展的產(chǎn)業(yè)新范式。
這也對大模型落地應(yīng)用與千行百業(yè)深度融合發(fā)揮價值提出了更為嚴(yán)苛的要求。
在這一背景下，多元多模的生態(tài)格局顯現(xiàn)，浪潮信息以自身技術(shù)積累為底座，正加速與更多元腦品牌的合作伙伴構(gòu)建協(xié)同共生、開放共贏的生態(tài)體系。
智東西等媒體與浪潮信息高級副總裁劉軍、浪潮信息服務(wù)器產(chǎn)品線總經(jīng)理趙帥、浪潮信息AI軟件研發(fā)總監(jiān)吳韶華進行了深入交流，在AI算力范式不斷革新的背景下，深入剖析浪潮信息升級“元腦”品牌的原因以及一系列工具發(fā)布對AI產(chǎn)業(yè)的深遠影響。
一、企業(yè)大模型開發(fā)平臺EPAI，提供全鏈路開發(fā)工具
從手機、PC到服務(wù)器，越來越多元化的端側(cè)設(shè)備被大模型顛覆，并在AI+時代釋放出更多潛力。
浪潮信息總經(jīng)理胡雷鈞認(rèn)為，AI算力正滲透進每一個計算設(shè)備中。面對AI產(chǎn)業(yè)的這一變革趨勢，浪潮信息在IPF上宣布將計算品牌全面升級為元腦，“元腦既是智算品牌，也是生態(tài)品牌”，以應(yīng)用為導(dǎo)向、以系統(tǒng)為核心搭建起大模型在千行百業(yè)落地的基礎(chǔ)。
面向大模型正在顛覆千行百業(yè)的行業(yè)共識。浪潮信息發(fā)現(xiàn)，場景+大模型衍生出的創(chuàng)新應(yīng)用對企業(yè)提出了更為嚴(yán)苛的要求。
吳韶華稱，大模型預(yù)訓(xùn)練階段學(xué)習(xí)的是通用知識，導(dǎo)致其在具體行業(yè)應(yīng)用時缺乏專業(yè)知識，容易產(chǎn)生幻覺，企業(yè)內(nèi)部數(shù)據(jù)分散、多元的特性也使得數(shù)據(jù)被快速高效處理利用有一定難度；其次大模型在行業(yè)應(yīng)用時需引入知識檢索手段，進行持續(xù)內(nèi)部運維等；此外大模型仍處于技術(shù)發(fā)展早期，模型、芯片等快速演進，大模型與芯片的適配與部署難度、成本對于一般企業(yè)而言都很高。
因此，面向企業(yè)用戶大模型開發(fā)的軟件平臺正是應(yīng)對上述難題的最優(yōu)解法之一，也就是浪潮信息發(fā)布的企業(yè)大模型開發(fā)平臺“元腦企智”EPAI，面向企業(yè)開發(fā)部署生成式AI應(yīng)用的端到端開發(fā)平臺。
一定程度上，高質(zhì)量數(shù)據(jù)決定了大模型的應(yīng)用效果。EPAI的數(shù)據(jù)來源分為基礎(chǔ)知識、行業(yè)知識和企業(yè)知識，其中上億條基礎(chǔ)知識數(shù)據(jù)來源于浪潮信息研發(fā)“源”大模型的數(shù)據(jù)積累。對于私密性較高的企業(yè)數(shù)據(jù)，浪潮信息提供了自動化數(shù)處理工具，企業(yè)可以將數(shù)據(jù)保留在本地，并通過權(quán)限控制、加解密等工具套件幫助數(shù)據(jù)安全。
有了數(shù)據(jù)后，為了讓大模型對于行業(yè)的理解更加深入，需要進行模型微調(diào)，讓大模型變得更加通用且專業(yè)。EPAI提供的微調(diào)工具可支持千億參數(shù)模型面向產(chǎn)業(yè)知識快速再學(xué)習(xí)，并擁有百萬token的長文檔處理能力，以適應(yīng)具體行業(yè)場景下的任務(wù)需求。
與此同時，EPAI實現(xiàn)了知識庫檢索與微調(diào)模型的相輔相成，其檢索增強生成（RAG）技術(shù)，通過本地化檢索基礎(chǔ)知識+行業(yè)知識+企業(yè)知識，能彌補微調(diào)大模型知識更新不及時的問題。
這樣一來，基于浪潮信息的大模型應(yīng)用開發(fā)平臺，大模型的強大能力與企業(yè)的個性化需求、場景更加匹配。此外，對于應(yīng)用大模型的玩家而言，其關(guān)注性能的同時還會關(guān)注平臺是否易用、好用且對成本更為敏感。
因此，EPAI提供了將大模型快速接入現(xiàn)有系統(tǒng)的API、開箱即用的對話UI交互、為企業(yè)復(fù)雜任務(wù)流提供基礎(chǔ)模塊支撐的智能體三種使用方法。
再加上諸多開源、閉源大模型支持、面向多模和多元算力的計算框架等優(yōu)勢，企業(yè)可以實現(xiàn)大模型應(yīng)用在跨算力平臺上的無感遷移。
可以看出，EPAI為企業(yè)提供了幾乎全鏈路的開發(fā)、部署、運維工具，讓企業(yè)在大模型浪潮下“再無后顧之憂”。
事實上，伴隨著大模型從底層技術(shù)的突破到應(yīng)用落地的焦點轉(zhuǎn)移，很多企業(yè)的核心需求在落地階段才逐漸顯現(xiàn)出來。吳韶華舉了一個例子，與開源代碼不同，企業(yè)內(nèi)部的私有代碼有寶貴知識產(chǎn)權(quán)，使得基礎(chǔ)大模型的代碼能力很難直接在企業(yè)內(nèi)部的場景中釋放價值，這與企業(yè)實際項目中，新的函數(shù)需基于現(xiàn)有的項目接口構(gòu)建有關(guān)。這也是浪潮信息正在重點突破的方向。
不論從大模型加速落地的演進趨勢，還是EPAI的幾大核心特征來看，企業(yè)在大模型開發(fā)、部署、落地此前都面臨著諸多門檻。浪潮信息此次發(fā)布的端到端開發(fā)平臺以及一系列的工具，或許會成為大大縮短企業(yè)開發(fā)、部署大模型的周期的關(guān)鍵變量。
或許在不久的將來，在大模型落地這一不可逆轉(zhuǎn)的趨勢下，EPAI進一步加快大模型無限潛力釋放的顯著成果將充分體現(xiàn)出來。
二、算力、數(shù)據(jù)、互聯(lián)并駕齊驅(qū)，釋放AI應(yīng)用萬億市場空間
在元腦品牌新升級的“以系統(tǒng)為核心”之中，算法、數(shù)據(jù)、算力、互聯(lián)缺一不可。劉軍談道，這四者的關(guān)系為以算法為負載，以數(shù)據(jù)為輸入，以算力為承載，以互聯(lián)為連接。
這也是浪潮信息提供全棧智算產(chǎn)品和方案的基礎(chǔ)。除了EPAI，浪潮信息面向大模型應(yīng)用專門打造了智能算力底座、專用存儲、超級AI以太網(wǎng)交換機。
得算力者得天下，算力需求與大模型產(chǎn)業(yè)發(fā)展息息相關(guān)。隨著行業(yè)落地加速，千億甚至萬億參數(shù)大模型層出不窮，使得企業(yè)對智能算力的需求急速攀升。
因此，浪潮信息聯(lián)合英特爾發(fā)布了AI通用服務(wù)器，可實現(xiàn)浪潮信息千億大模型源2.0部署、優(yōu)化、測試，這也是業(yè)界首次實現(xiàn)基于CPU處理器的千億參數(shù)模型推理。
AI通用服務(wù)器在2U空間支持4顆英特爾處理器，支持AMX等AI加速功能，同時能滿足千億大模型的低延時要求。
高質(zhì)量數(shù)據(jù)數(shù)據(jù)方面，浪潮信息打造了大模型應(yīng)用的專用存儲AS13000G7-N系列，充分滿足大模型的多協(xié)議、高帶寬、低延遲、數(shù)據(jù)高效流轉(zhuǎn)等需求。
基于DataTurbo新一代數(shù)據(jù)加速引擎，從全局一致性緩存、空間均衡、GPU直通存儲等方面進行端到端性能優(yōu)化，TB級訓(xùn)練數(shù)據(jù)Checkpoint讀取耗時從小時級降為秒級，同時模型訓(xùn)練的空間損耗率僅為業(yè)界主流的1/6，顯著縮短模型訓(xùn)練時間近50%。
此外，浪潮信息專為大模型打造了超級AI以太網(wǎng)交換機“X400”，這是國內(nèi)率先支持Spectrum-X平臺的網(wǎng)絡(luò)產(chǎn)品。相比傳統(tǒng)RoCE網(wǎng)絡(luò)性能提升至1.6倍，AI網(wǎng)絡(luò)的帶寬利用率超過95%，通信時延降低30%，NVIDIA Megatron-LM大模型訓(xùn)練速度最高可以提升70%，大幅縮短訓(xùn)練時長并降低訓(xùn)練成本。
從多元算力可調(diào)度、滿足大模型存儲需求到滿足AI集群需求，浪潮信息此次推出的系列工具，已經(jīng)成為企業(yè)進行大模型開發(fā)的重要支撐，同時為大模型釋放技術(shù)潛力以及幫助企業(yè)抓住市場機遇提供了更多可能性。
三、元腦品牌全面升級：一切計算皆AI
從元腦生態(tài)的蓬勃發(fā)展，以及浪潮信息在算力、算法、數(shù)據(jù)、互聯(lián)方面的技術(shù)創(chuàng)新與突破，都離不開其此前的布局。
面向大模型應(yīng)用落地的狂飆突進，浪潮信息率先在算力、算法、數(shù)據(jù)、互聯(lián)方面實現(xiàn)了技術(shù)創(chuàng)新與突破，并且能切中企業(yè)用戶的真實痛點發(fā)布系列工具，都離不開其此前的技術(shù)研發(fā)與生態(tài)建設(shè)布局。
浪潮信息在大模型算法方面的研發(fā)布局由來已久。早在2021年，浪潮信息就發(fā)布2457億參數(shù)規(guī)模的“源1.0”中文語言大模型，并全面開源，2023年又成功研發(fā)并開源千億參數(shù)“源2.0”基礎(chǔ)大模型，包含1026億、518億、21億三種參數(shù)規(guī)模，這也是國內(nèi)首個千億參數(shù)、全面開源的大模型。
彼時，為了提升基礎(chǔ)大模型的智力水平，源2.0采用了新型的注意力算法結(jié)構(gòu)局部注意力過濾增強機制（LFA，Localized Filtering-based Attention）等措施，實現(xiàn)源2.0大模型在精度上接近GPT-4的水平。
同時，浪潮信息通過大模型生成高質(zhì)量數(shù)據(jù)以及非均勻流水并行、優(yōu)化器參數(shù)并行、數(shù)據(jù)并行、Loss計算分塊的分布式訓(xùn)練方法等，不斷突破提升大模型智力水平的邊界，找到技術(shù)發(fā)展的可行路徑。
伴隨著大模型產(chǎn)業(yè)發(fā)展在應(yīng)用端呈現(xiàn)出的發(fā)展趨勢，智算的重要性顯而易見，而“一切計算皆AI”的產(chǎn)業(yè)發(fā)展趨勢已經(jīng)融入浪潮信息發(fā)展的每一根毛細血管中。
除了技術(shù)創(chuàng)新，誕生于2019年的元腦品牌的全面升級，也成為浪潮信息迎接AI產(chǎn)業(yè)革命新機遇的最新答案。
浪潮信息渠道推進部總經(jīng)理毛柏林透露，2023年浪潮信息生態(tài)伙伴數(shù)量已經(jīng)達到3萬家，同比增長33%，元腦認(rèn)證伙伴首次突破1萬家。
邁入智能時代，擁有不同底層技術(shù)、在不同行業(yè)深耕的各路企業(yè)之間的連接日漸緊密，因此，元腦既是智算品牌，也是生態(tài)品牌。浪潮信息將聯(lián)合左右手的伙伴，面向不同場景，實現(xiàn)大模型的加速落地，激發(fā)AI產(chǎn)業(yè)創(chuàng)新發(fā)展的新動力。
浪潮信息同期還發(fā)布了EPAI種子計劃，預(yù)計在3年內(nèi)將伙伴數(shù)量擴充至1000家。
大模型產(chǎn)業(yè)發(fā)展的趨勢已經(jīng)逐漸明晰，多元多模、落地部署進程加快等趨勢演進加速，在這一背景下，浪潮信息以開放共贏的“元腦生態(tài)”為依托，正從AI創(chuàng)新落地的探索者向引領(lǐng)者沖鋒。
結(jié)語：“AI+”成新時代熱詞，掀起新質(zhì)生產(chǎn)力革命
AI+成為今年大模型產(chǎn)業(yè)發(fā)展當(dāng)之無愧的熱詞，新質(zhì)生產(chǎn)力變革步伐加快。伴隨著AI部署落地的創(chuàng)新成果不斷涌現(xiàn)，多元的模型、算力、數(shù)據(jù)需求對其大規(guī)模應(yīng)用提出挑戰(zhàn)。
浪潮信息依托于此前的技術(shù)積累與布局，再加上對產(chǎn)業(yè)前沿趨勢的深入洞察，率先向這一變革趨勢發(fā)起沖鋒，在算法、算力、數(shù)據(jù)、互聯(lián)領(lǐng)域的工具體系助力下，AI應(yīng)用將會為千行百業(yè)帶來無盡的想象力。
