智東西（公眾號(hào)：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西11月3日報(bào)道，在本周舉行的2024紅帽論壇上，企業(yè)級(jí)開源解決方案提供商紅帽公司展示了其如何用開放混合的AI和開源方法加速企業(yè)AI應(yīng)用。
今年是紅帽在中國的第二十年。紅帽全球副總裁兼大中華區(qū)總裁曹衡康談道，用混合開放的模式來開發(fā)AI已成為一個(gè)必然趨勢，紅帽在基礎(chǔ)架構(gòu)上采用混合云模式，支持本地?cái)?shù)據(jù)中心、公有云和邊緣計(jì)算環(huán)境的運(yùn)行，并支持開源和閉源模型，從而為企業(yè)提供靈活選擇。
2024紅帽亞太創(chuàng)新獎(jiǎng)以“解鎖下一步”為主題，表彰了通過開源技術(shù)推動(dòng)轉(zhuǎn)型和創(chuàng)新的客戶。在當(dāng)日論壇期間，2024紅帽亞太創(chuàng)新獎(jiǎng)中國區(qū)獲獎(jiǎng)名單正式公布，獎(jiǎng)項(xiàng)授予安利（中國）有限公司和西門子工業(yè)自動(dòng)化產(chǎn)品（成都）有限公司，以表彰他們在創(chuàng)新運(yùn)用紅帽解決方案應(yīng)對不斷變化的業(yè)務(wù)需求方面的卓越表現(xiàn)。
《2024年紅帽全球技術(shù)趨勢報(bào)告》顯示，亞太地區(qū)企業(yè)的首要投資方向集中在構(gòu)建云原生應(yīng)用、提升數(shù)字用戶體驗(yàn)以及加速應(yīng)用和服務(wù)的交付。這些數(shù)據(jù)突顯了創(chuàng)新解決方案在數(shù)字化轉(zhuǎn)型、混合云基礎(chǔ)架構(gòu)、云原生開發(fā)、自動(dòng)化以及企業(yè)敏捷性五大關(guān)鍵領(lǐng)域中的重要性。
會(huì)后，西門子工業(yè)自動(dòng)化（成都）有限公司信息技術(shù)部經(jīng)理?xiàng)罱?、多位紅帽大中華區(qū)高管與智東西等媒體進(jìn)行了深入交流。據(jù)曹衡康分享，去年紅帽業(yè)績創(chuàng)下歷史新高，今年也繼續(xù)呈雙位數(shù)增長，其增長來自于越來越多的企業(yè)接受開源技術(shù)、認(rèn)識(shí)到開源的優(yōu)勢。在他看來，AI發(fā)展的關(guān)鍵在于應(yīng)用場景，這也是紅帽專注探索的方向，紅帽在傳統(tǒng)的數(shù)字創(chuàng)新和數(shù)字轉(zhuǎn)型領(lǐng)域同樣將產(chǎn)生更多的應(yīng)用案例。
一、穩(wěn)定、安全的“小模型”：減少所需算力與成本，符合企業(yè)特定需求
紅帽全球副總裁兼大中華區(qū)總裁曹衡康談道，紅帽的理念不僅是創(chuàng)建和使用開源模型，更在幫助企業(yè)構(gòu)建個(gè)性化模型。
過去兩年，全球資本大舉投入基礎(chǔ)建設(shè)，但未見顯著成效，許多企業(yè)應(yīng)用仍未落地。此前，不少企業(yè)嘗試用大模型提升效能，但發(fā)現(xiàn)大模型不適合生產(chǎn)場景，因?yàn)橐稽c(diǎn)小錯(cuò)就可能帶來風(fēng)險(xiǎn)。因此，紅帽在過去幾年提出了“小模型”概念，即專屬模型（faithful purpose），讓企業(yè)的數(shù)據(jù)驅(qū)動(dòng)AI模型的生成，確保模型穩(wěn)定、安全，并符合企業(yè)的特定需求。
通過“小模型”概念，紅帽可以快速將客戶的知識(shí)庫輸入到模型中，無論采用何種模型架構(gòu)，都能通過深度數(shù)據(jù)的方式生成企業(yè)的專屬模型，從而快速搭建適合客戶的特有模型。
紅帽還引入了“社區(qū)版”小模型，通過合成數(shù)據(jù)大幅減少對真實(shí)數(shù)據(jù)的需求，將數(shù)據(jù)量降至原來的千分之一。這種方式不僅降低了算力需求，節(jié)約了成本，能耗也大幅減少，對環(huán)境更加友好。
圍繞推動(dòng)開源AI發(fā)展，曹衡康分享了“三步走”策略：
第一步，通過各種市場渠道，推廣AI的獨(dú)特功能和優(yōu)勢。一個(gè)新技術(shù)要進(jìn)入市場，需找到成功的應(yīng)用案例并加以推廣。
第二步，通過合作伙伴生態(tài)，賦能合作伙伴的技術(shù)和顧問團(tuán)隊(duì)，使他們更深入地了解紅帽的AI技術(shù)，從而更好地支持客戶。
第三步，通過開放實(shí)驗(yàn)室，與客戶的顧問團(tuán)隊(duì)合作，針對企業(yè)的研發(fā)、生產(chǎn)、市場行銷和客戶支持等環(huán)節(jié)，與客戶共同探討如何將AI技術(shù)應(yīng)用到實(shí)際場景中，一起找出最具效能的應(yīng)用場景，從一個(gè)小應(yīng)用成功起步，逐步擴(kuò)展至更大的場景。
紅帽的AI產(chǎn)品包括語言和代碼模型。紅帽大中華區(qū)方案架構(gòu)部總經(jīng)理王慧慧介紹了紅帽AI平臺(tái)方案。她談道，從產(chǎn)品發(fā)布到原型驗(yàn)證、試點(diǎn)到正式生產(chǎn)部署需要一定時(shí)間。紅帽的AI產(chǎn)品從美國發(fā)布到現(xiàn)在僅5個(gè)月，已有多個(gè)客戶開始復(fù)制該成功經(jīng)驗(yàn)。
據(jù)她分享，一家保險(xiǎn)業(yè)客戶已使用紅帽的AI技術(shù)來加速代碼審查和代碼合并請求的處理。他們之前使用舊工具時(shí)存在準(zhǔn)確率低的問題（當(dāng)準(zhǔn)確率低于95%甚至96%，尤其在生產(chǎn)環(huán)境中，效果不理想），在引入紅帽的新AI工具后，代碼合并和審查的準(zhǔn)確率大大提升，達(dá)到了這家客戶的高標(biāo)準(zhǔn)。
曹衡康補(bǔ)充說，紅帽內(nèi)部也在使用AI來優(yōu)化客戶支持。例如在客戶查詢知識(shí)庫時(shí)，紅帽通過AI提供最佳解決方案，其工程師在項(xiàng)目交接或技術(shù)總結(jié)時(shí)也使用AI生成報(bào)告，有效減少了重復(fù)溝通，提高了效率。
二、加速與本土開發(fā)商共創(chuàng)，助攻西門子制造業(yè)架構(gòu)轉(zhuǎn)型
紅帽大中華區(qū)資深市場總監(jiān)趙文斌談道，場景應(yīng)用是ISV（獨(dú)立軟件開發(fā)商）和AV（應(yīng)用供應(yīng)商）最擅長的領(lǐng)域。由于許多企業(yè)和行業(yè)都有各自的特點(diǎn)，紅帽加速了與本土ISV及方案開發(fā)商的合作。在市場拓展中，紅帽也特別關(guān)注共創(chuàng)模式（co-creation）。通過與ISV共創(chuàng)，結(jié)合各行業(yè)的獨(dú)特場景和聯(lián)合解決方案，紅帽可以幫助企業(yè)更快地實(shí)現(xiàn)AI應(yīng)用落地。
西門子工業(yè)自動(dòng)化產(chǎn)品（成都）有限公司是2024紅帽亞太創(chuàng)新獎(jiǎng)獲獎(jiǎng)機(jī)構(gòu)之一，是西門子德國安貝格（Amberg）的姐妹工廠。它通過部署紅帽O(jiān)penShift，打造了新一代集成、靈活且彈性的生產(chǎn)支持系統(tǒng)MEMO（制造運(yùn)營模塊化生態(tài)系統(tǒng)）。該系統(tǒng)顯著提升了生產(chǎn)線工人的用戶體驗(yàn)和工作效率。
西門子工業(yè)自動(dòng)化產(chǎn)品（成都）有限公司信息技術(shù)部經(jīng)理?xiàng)罱》窒砹伺c紅帽合作的感受，在采用紅帽的解決方案后，他們實(shí)現(xiàn)了從單體架構(gòu)向微服務(wù)分布式架構(gòu)的轉(zhuǎn)型。楊健認(rèn)為，這種轉(zhuǎn)型是制造業(yè)未來發(fā)展的一個(gè)趨勢。
許多制造業(yè)企業(yè)的應(yīng)用系統(tǒng)原本采用單體架構(gòu)，這種架構(gòu)在維護(hù)時(shí)可能需要停機(jī)，對于滿負(fù)荷生產(chǎn)的工廠來說，停機(jī)一小時(shí)可能損失幾十萬甚至上百萬。此外，單體架構(gòu)在功能增加和編譯上也很麻煩，整體測試需要耗費(fèi)大量時(shí)間和資源。
而微服務(wù)架構(gòu)可將功能拆分成許多小模塊，變更起來更靈活。這帶來了幾個(gè)優(yōu)勢：一是可以在不停機(jī)的情況下進(jìn)行維護(hù)、升級(jí)和變更；二是每次變更可以針對更小的范圍，便于精準(zhǔn)控制和資源調(diào)度。
楊健回顧說，與紅帽的合作非常順暢，相比其他供應(yīng)商，紅帽在響應(yīng)速度和責(zé)任感方面表現(xiàn)突出。這種共創(chuàng)的模式和合作環(huán)境非常寶貴，也是他們選擇并繼續(xù)合作紅帽平臺(tái)的重要原因之一。此外，紅帽論壇期間展示許多平臺(tái)、解決方案和產(chǎn)品也給他帶來了啟發(fā)。
西門子在AI領(lǐng)域已經(jīng)看到了很多優(yōu)質(zhì)的解決方案和思路。比如西門子很早就開始應(yīng)用小模型，尤其是在生產(chǎn)領(lǐng)域，比如機(jī)器視覺。以垃圾分揀為例，原材料加工后產(chǎn)生的垃圾有金屬、塑料和紙張等，以前的機(jī)器人視覺識(shí)別準(zhǔn)確率只有大約85%，西門子通過小模型訓(xùn)練將準(zhǔn)確率從85%提升到95%以上，大幅提升了分揀效率。
小模型非常適用于生產(chǎn)，是因?yàn)閼?yīng)用和場景單一，錯(cuò)誤率低，能保證質(zhì)量和過程的可控性。而大模型有時(shí)會(huì)出現(xiàn)的幻覺問題在生產(chǎn)應(yīng)用中存在風(fēng)險(xiǎn)，因此西門子當(dāng)前對大模型的應(yīng)用保持探索并較為謹(jǐn)慎，希望通過持續(xù)優(yōu)化，使大模型更可靠、可信且全面。
三、向企業(yè)提供“三步走”AI部署路徑，鼓勵(lì)跨云混合部署
在幫助客戶更加快速經(jīng)濟(jì)地實(shí)現(xiàn)應(yīng)用落地方面，曹衡康談道，從成本的角度，紅帽的混合云理念鼓勵(lì)客戶在合適的場所部署算力，比如企業(yè)內(nèi)部數(shù)據(jù)中心、公有云乃至跨多云環(huán)境。
去年紅帽推出了“Unlock”理念，旨在避免客戶被鎖定在特定云上，開源架構(gòu)為客戶提供更多彈性和自由度。因此，紅帽始終鼓勵(lì)客戶使用紅帽的開放平臺(tái)，以便在任意云和本地環(huán)境中靈活切換，滿足各種算力需求。
王慧慧提到許多客戶反饋說希望先了解成本和收益，再?zèng)Q定項(xiàng)目的可行性。紅帽對此需求非常重視，提出了“分步實(shí)施”的策略，即“企業(yè)AI應(yīng)用三步曲”。
第一步，客戶可在最小資源配置下試用開源模型和工具，比如在筆記本電腦上用CPU試跑，而不需要額外的GPU卡。
如果測試效果滿意，客戶可以進(jìn)入第二步，通過云租用算力進(jìn)行進(jìn)一步擴(kuò)展。紅帽平臺(tái)幾乎可在任何云上運(yùn)行，客戶可以選擇公司數(shù)據(jù)中心或外部公有云資源，在確認(rèn)模型適合需求后，才進(jìn)入第三步的大規(guī)模部署。
第三步，紅帽架構(gòu)支持跨云混合部署。例如，客戶可以在中國使用阿里云，在美國使用AWS，這種多云方案既靈活又經(jīng)濟(jì)。紅帽的目標(biāo)是幫助客戶實(shí)現(xiàn)最佳的投資回報(bào)率（ROI），并在每一步提供適配的支持。
紅帽InstructLab是一個(gè)用于生成式AI模型開發(fā)的開源社區(qū)項(xiàng)目，由紅帽和IBM聯(lián)合發(fā)起，支持市面上各種模型，被稱作“連接社區(qū)和客戶的橋梁”。王慧慧說，InstructLab和Granite是一個(gè)相輔相成的體系。
設(shè)計(jì)InstructLab有兩個(gè)主要目的：一是讓客戶基于Granite基礎(chǔ)模型，使用InstructLab和自身數(shù)據(jù)訓(xùn)練出符合需求的模型。InstructLab的輸出分為“知識(shí)”和“技能”，可在企業(yè)內(nèi)部自用。此外，InstructLab還能將知識(shí)和技能反饋至上游的管理機(jī)構(gòu)。當(dāng)管理機(jī)構(gòu)收到客戶反饋的更新后，可將其整合到社區(qū)版本的Granite模型中，并發(fā)布新版本。
紅帽的開源平臺(tái)上幾乎所有產(chǎn)品都遵循這種模式。在開源模型領(lǐng)域，這種方法是紅帽和IBM首次探索的方向，旨在通過開源社區(qū)推動(dòng)開源模型的持續(xù)進(jìn)步，而不僅僅是開放某個(gè)版本的模型。
結(jié)語：引領(lǐng)開源路線，將增加本地化支持
隨著AI應(yīng)用日益成熟與普及，越來越多企業(yè)面臨AI技術(shù)路線的選擇，而開源方式能夠幫助企業(yè)有效降低應(yīng)用門檻和成本。據(jù)王慧慧分享，自2019年IBM成為紅帽母公司以來，IBM在開源方面的投入愈發(fā)積極，在工作方式和平臺(tái)選擇上越來越傾向開源。IBM將其最初的Watson平臺(tái)（現(xiàn)稱Watson X）逐步開源，接下來IBM和紅帽將共同致力于維護(hù)開源模型的持續(xù)迭代。
IBM和紅帽接受來自用戶和合作伙伴的反饋和貢獻(xiàn)，不斷改進(jìn)模型。IBM不僅限于語言模型，還推出了代碼模型等其他模型，持續(xù)拓展應(yīng)用領(lǐng)域，走向更廣泛的開源之路。IBM的咨詢部門也與紅帽保持緊密合作，共同探討如何通過開源平臺(tái)幫助客戶實(shí)現(xiàn)AI應(yīng)用。
趙文斌補(bǔ)充道，IBM非常尊重紅帽的開放性，在合作項(xiàng)目中，IBM是紅帽眾多選擇之一，紅帽仍然與其他解決方案保持平等合作。具體來說，許多聯(lián)合項(xiàng)目都是基于紅帽的開源平臺(tái)，客戶需求始終是紅帽創(chuàng)新的核心，紅帽通過開源方法進(jìn)行持續(xù)集成和迭代。同時(shí)，紅帽堅(jiān)持平臺(tái)的中立和獨(dú)立性。
在曹衡康看來，地緣政治更加凸顯了擁抱開源的重要性。與閉源公司不同，開源技術(shù)較少受到地緣政治限制，用戶可以隨時(shí)下載和使用所需的工具。據(jù)他透露，紅帽下一步將繼續(xù)擴(kuò)大與國內(nèi)企業(yè)的合作，已與本土ISV公司建立了多項(xiàng)合作，這些合作涵蓋芯片和軟件等方面，確保其開源路線在國內(nèi)有更多本地化支持。
