智東西（公眾號：zhidxcom）
作者 | 香草
編輯 | 李水青
智東西10月25日報(bào)道，10月24日，亞馬遜云科技在北京舉辦了生成式AI構(gòu)建者大會。會上，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建從應(yīng)用場景、工具和基礎(chǔ)設(shè)施、數(shù)據(jù)基座、AI原生應(yīng)用構(gòu)建和生成式AI服務(wù)這五個層面，解讀了亞馬遜云科技全面的云原生技術(shù)棧，以及亞馬遜云科技如何助力企業(yè)降低生成式AI應(yīng)用開發(fā)門檻，加速實(shí)現(xiàn)端到端的生成式AI應(yīng)用構(gòu)建。
▲陳曉建解讀亞馬遜云科技五個層面的云原生技術(shù)棧
西門子集團(tuán)、金山辦公軟件以及科思創(chuàng)中國作為亞馬遜云科技中國區(qū)生成式AI創(chuàng)新的代表客戶，也分享了各自的創(chuàng)新案例。
會后，智東西與少數(shù)媒體對陳曉建、亞馬遜云科技技術(shù)專家團(tuán)隊(duì)總監(jiān)王曉野進(jìn)行了采訪。
當(dāng)智東西問道，從亞馬遜云科技與企業(yè)客戶的接觸來看，目前有哪些行業(yè)和領(lǐng)域?qū)ι墒紸I應(yīng)用的需求量較大？生成式AI落地行業(yè)主要有哪些挑戰(zhàn)？亞馬遜云科技是如何幫助企業(yè)客戶應(yīng)對這些挑戰(zhàn)的？
陳曉建稱，目前各行各業(yè)對生成式AI都有著一定需求，從亞馬遜云科技與客戶的接觸來看，有一些比較有代表性的行業(yè)。
一是數(shù)字營銷行業(yè)，易點(diǎn)天下借助亞馬遜云科技驅(qū)動的生成式AI幫助電商客戶將出圖時間從5天縮短至2小時，通過SaaS為出?？蛻籼峁〢I模特與AI數(shù)字虛擬人等服務(wù)。
二是工業(yè)設(shè)計(jì)領(lǐng)域，以海爾創(chuàng)新設(shè)計(jì)中心為例，其基于亞馬遜云科技服務(wù)器部署了大量自動化設(shè)計(jì)軟件，使得產(chǎn)品設(shè)計(jì)、UI設(shè)計(jì)等相關(guān)業(yè)務(wù)操作周期縮短了20%。
三是游戲行業(yè)，創(chuàng)夢天地利用亞馬遜云科技游戲AIGC專業(yè)版API，快速上線了AI繪圖頻道和多種特色風(fēng)格，積累了數(shù)萬名頻道內(nèi)用戶使用AI生圖服務(wù)，為后續(xù)IP推廣活動打下基礎(chǔ)。
在落地層面，亞馬遜云科技提供包含基礎(chǔ)模型、數(shù)據(jù)與算力基礎(chǔ)設(shè)施以及開發(fā)工具在內(nèi)的全面云原生技術(shù)棧，幫助企業(yè)實(shí)現(xiàn)端到端的應(yīng)用構(gòu)建。以全托管生成式AI服務(wù)Amazon Bedrock為例，由于其無服務(wù)器化，客戶無需管理基礎(chǔ)設(shè)施，只需調(diào)用API即可使用。
一、多半效益來自4類應(yīng)用場景，Bedrock提供6大基礎(chǔ)模型
根據(jù)麥肯錫咨詢2023年6月發(fā)布的生成式AI生產(chǎn)力前沿技術(shù)報(bào)告，在生成式AI技術(shù)帶來的經(jīng)濟(jì)效益中，大約3/4來自四類主要的職能：營銷與銷售、產(chǎn)品與研發(fā)、軟件工程和客戶運(yùn)營。
陳曉建稱，典型的應(yīng)用場景帶給企業(yè)的業(yè)務(wù)價值主要包含三個方面：增強(qiáng)客戶體驗(yàn)、提升員工生產(chǎn)力與創(chuàng)造力、優(yōu)化業(yè)務(wù)流程。
圍繞不同的應(yīng)用場景，亞馬遜云科技為企業(yè)客戶提供不同的工具幫助其創(chuàng)新業(yè)務(wù)模式。
10月7日，亞馬遜云科技正式發(fā)布Amazon Bedrock，同時宣布接入Meta的Llama 2 13B和70B。目前，Amazon Bedrock提供來自Meta、Anthropic、Stability AI、AI21 Labs、Cohere等第三方開發(fā)商的模型，以及亞馬遜自研的Amazon Titan，共6種基礎(chǔ)模型。
▲Amazon Bedrock提供的6種基礎(chǔ)模型
陳曉建稱，Amazon Bedrock是企業(yè)使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡單方法，它是一項(xiàng)無服務(wù)器服務(wù)，提供了廣泛的模型選擇、數(shù)據(jù)隱私，并且能夠自定義模型，無需管理任何基礎(chǔ)設(shè)施。
▲陳曉建解讀Amazon Bedrock微調(diào)功能
然而，單獨(dú)的基礎(chǔ)模型具有局限性，無法完成需要與外部系統(tǒng)交互并且沒有最新知識來源的復(fù)雜任務(wù)。這些功能本身雖然很簡單，但開發(fā)人員必須經(jīng)過多個步驟才能實(shí)現(xiàn)這些功能。
Amazon Bedrock代理功能支持通過API（應(yīng)用程序編程接口）安全地連接到公司數(shù)據(jù)，自動將數(shù)據(jù)轉(zhuǎn)換為機(jī)器可讀的格式，并增加相關(guān)信息以生成最準(zhǔn)確的回答。然后，代理可以自動調(diào)用API來滿足用戶的請求，無需任何手動編碼。
金山辦公的AI研發(fā)總監(jiān)劉強(qiáng)談道，今年起，WPS開始將大語言模型的能力全面引入產(chǎn)品，在構(gòu)建過程中，遇到基礎(chǔ)模型性能有限、數(shù)據(jù)隱私與安全難以保障、高額管理成本等障礙。
作為Amazon Bedrock的第一批試用用戶，金山辦公第一時間與亞馬遜云科技展開了對接與測試。
Amazon Bedrock中支持的領(lǐng)先大語言模型在多個文字處理場景中符合金山辦公的需求，在數(shù)據(jù)安全層面也給金山辦公提供了充分的支持，極大地提高了金山辦公的內(nèi)部開發(fā)效率。
▲劉強(qiáng)解讀構(gòu)建生成式AI應(yīng)用幾大挑戰(zhàn)
基礎(chǔ)設(shè)施方面，陳曉建稱高性價比的基礎(chǔ)設(shè)施是生成式AI應(yīng)用構(gòu)建的關(guān)鍵。
亞馬遜云科技持續(xù)對全球基礎(chǔ)設(shè)施進(jìn)行深度投資，為客戶提供廣泛的加速器、GPU選擇，例如基于英傳達(dá)最新GPU芯片H100 Tensor Core的Amazon EC2 P5實(shí)例，與上一代相比速度快6倍，訓(xùn)練成本節(jié)省40%。
▲陳曉建解讀亞馬遜云科技基于英偉達(dá)GPU芯片實(shí)例
基于亞馬遜云科技自研的機(jī)器學(xué)習(xí)推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2實(shí)例，與其他類似的EC2實(shí)例相比性價比高40%；基于自研機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium推出的Amazon EC2 Trn1實(shí)例，與同類實(shí)例相比訓(xùn)練成本節(jié)省達(dá)50%。
▲陳曉建解讀亞馬遜云科技自研芯片實(shí)例
二、構(gòu)建專門數(shù)據(jù)庫，DataZone實(shí)現(xiàn)跨組織數(shù)據(jù)共享與治理
數(shù)據(jù)是將通用的生成式AI轉(zhuǎn)變?yōu)榱私馄髽I(yè)業(yè)務(wù)和客戶的生成式AI的關(guān)鍵差異化因素。
陳曉建稱，面向生成式AI構(gòu)建強(qiáng)大的數(shù)據(jù)“基座”，需要一套全面的服務(wù)，以便能夠存儲用于構(gòu)建和微調(diào)模型的各種類型的數(shù)據(jù)；需要服務(wù)間的集成，以打破數(shù)據(jù)孤島，確保能夠隨時訪問所有數(shù)據(jù)；還需要在構(gòu)建生成式AI應(yīng)用程序的整個生命周期中，確保數(shù)據(jù)安全并對其進(jìn)行管理。
▲陳曉建解讀面向生成式AI如何構(gòu)建強(qiáng)大的數(shù)據(jù)“基座”
在全面服務(wù)方面，亞馬遜云科技針對生成式AI領(lǐng)域的用戶個人信息、會話信息管理、私域知識庫等應(yīng)用場景都提供了專門構(gòu)建的數(shù)據(jù)庫。針對檢索增強(qiáng)生成（RAG）需要處理的向量數(shù)據(jù)，亞馬遜云科技推出了向量數(shù)據(jù)庫功能。
▲陳曉建解讀亞馬遜云科技多種數(shù)據(jù)庫
在數(shù)據(jù)集成方面，數(shù)據(jù)的抽?。‥xtract）、轉(zhuǎn)換（Transform）、加載（Load）——簡稱ETL，是端到端數(shù)據(jù)旅程迫切需要解決的問題，亞馬遜云科技提出“Zero-ETL”的愿景，通過深化服務(wù)之間的集成，幫助企業(yè)執(zhí)行分析和機(jī)器學(xué)習(xí)，且無需移動數(shù)據(jù)。
▲陳曉建解讀亞馬遜云科技深度集成數(shù)據(jù)服務(wù)
在數(shù)據(jù)治理方面，亞馬遜云科技提供Amazon DataZone數(shù)據(jù)治理服務(wù)，讓客戶能夠跨組織邊界發(fā)現(xiàn)、訪問、共享和治理大規(guī)模數(shù)據(jù)，并減少企業(yè)內(nèi)部成員訪問數(shù)據(jù)和使用分析工具時繁重的工作量。
▲陳曉建解讀Amazon DataZone數(shù)據(jù)治理服務(wù)
西門子集團(tuán)IT數(shù)據(jù)分析與AI負(fù)責(zé)人李朝明解讀了西門子與亞馬遜云科技在企業(yè)數(shù)據(jù)上的合作，通過AI與數(shù)據(jù)能力的全面能力提升來構(gòu)建基于生成式AI的企業(yè)知識聊天機(jī)器人。
面對西門子中國IT面對的企業(yè)內(nèi)部信息分散、數(shù)據(jù)信息傳遞能力不足、知識運(yùn)營能力缺乏等業(yè)務(wù)難題，亞馬遜云科技助力西門子打造了業(yè)務(wù)知識一體化解決方案“小禹”，由于根植于堅(jiān)實(shí)的數(shù)據(jù)底座，“小禹”從立項(xiàng)到上線僅用了3個月。
▲李朝明解讀西門子業(yè)務(wù)知識一體化解決方案“小禹”
三、云原生服務(wù)加速AI應(yīng)用構(gòu)建，編程助手CodeWhisperer將推自定義功能
生成式AI的出現(xiàn)，給傳統(tǒng)云原生應(yīng)用開發(fā)架構(gòu)提出了新的機(jī)遇與挑戰(zhàn)。
陳曉建在采訪中談道，生成式AI是云原生的技術(shù)，可以說，云計(jì)算是應(yīng)用生成式AI最好的方式。
而相比之下，公有云比私有云更適合面向企業(yè)，能夠提供強(qiáng)大的算力、基礎(chǔ)設(shè)施資源、端到端的服務(wù)等。
在應(yīng)用層面，亞馬遜云科技認(rèn)為，編程將是生成式AI技術(shù)得到快速應(yīng)用的領(lǐng)域之一。
亞馬遜云科技提供的Amazon CodeWhisperer是一款A(yù)I編碼伙伴，可在基礎(chǔ)模型高級選項(xiàng)中使用，實(shí)時生成代碼建議，從根本上提高開發(fā)人員的生產(chǎn)力。
據(jù)測試，與未使用的參與者相比，使用CodeWhisperer的參與者完成任務(wù)的速度平均快57%，成功率高27%。
陳曉建稱，CodeWhisperer即將推出自定義功能，允許客戶使用私有代碼庫安全地定制代碼建議，這些私有代碼庫可涵蓋內(nèi)部API、數(shù)據(jù)庫、最佳實(shí)踐和架構(gòu)模式等。
▲陳曉建解讀CodeWhisperer自定義功能
科思創(chuàng)中國云開發(fā)運(yùn)維團(tuán)隊(duì)負(fù)責(zé)人俞宙談道，科思創(chuàng)中國在日常開發(fā)中有兩個核心任務(wù)：項(xiàng)目框架搭建和存量代碼優(yōu)化。
在實(shí)踐中過程中，重復(fù)性、機(jī)械化的范式生成、慣用算法引用和企業(yè)級API接口定制是科思創(chuàng)中國面臨的主要挑戰(zhàn)。在亞馬遜云科技CodeWhisperer的加持下，科思創(chuàng)中國的日常代碼開發(fā)效率提升50%，開源代碼應(yīng)用追蹤器的準(zhǔn)確性也顯著提高。
▲俞宙解讀科思創(chuàng)中國在日常開發(fā)中的兩個核心任務(wù)
亞馬遜云科技還為Amazon QuickSight推出了生成式BI（商務(wù)智能）功能，使業(yè)務(wù)分析師能夠輕松地在幾秒鐘內(nèi)快速編寫和微調(diào)新的視覺效果，并使用自然語言將其添加到儀表板中，還可以在QuickSight中創(chuàng)建分析報(bào)告。
▲陳曉建解讀QuickSight分析報(bào)告生成功能
結(jié)語：生成式AI≠大模型，模型外的服務(wù)或成為新戰(zhàn)場
目前，生成式AI應(yīng)用落地已經(jīng)從熱火朝天的“百模大戰(zhàn)”，步入到了少數(shù)優(yōu)秀模型脫穎而出，工具鏈百花齊放，以及企業(yè)主管認(rèn)真尋找生成式AI落地場景的新階段。開發(fā)生成式AI應(yīng)用是一個充滿挑戰(zhàn)的系統(tǒng)工程，而不是單純的產(chǎn)品和服務(wù)拼接。
正如陳曉建所說，生成式AI不僅僅是大模型，整個生成式AI應(yīng)用就像是浮在海面的冰山，露在海面上方能被大多數(shù)人看到的冰山一角就像是基礎(chǔ)模型，而在冰川的底部，同樣需要大量的基礎(chǔ)模型以外的服務(wù)來支撐。
