智東西（公眾號：zhidxcom）
作者 | 香草
編輯 | 李水青
生成式AI如何以開源的方式進入企業(yè)？
智東西6月13日報道，今日，國際開源大廠紅帽在媒體溝通會上分享了在AI發(fā)展路線之爭上紅帽的觀點，并詳細介紹了其上個月發(fā)布的AI方案，以及在國內(nèi)的重要發(fā)展策略與舉措。
在AI發(fā)展路線上，紅帽主要的觀點是堅持開源和混合。針對企業(yè)實施AI創(chuàng)新面臨的六大挑戰(zhàn)，紅帽提供一套三步走的端到端AI平臺和路徑，跨混合云加速AI在企業(yè)中的應用。
在國內(nèi)的發(fā)展策略上，紅帽將配合國家戰(zhàn)略，加速企業(yè)智能制造升級，同時賦能與融合國內(nèi)AI生態(tài)，加速AI在全行業(yè)的應用。
分享會后，紅帽全球副總裁兼大中華區(qū)總裁曹衡康、紅帽大中華區(qū)資深市場總監(jiān)趙文斌、紅帽大中華區(qū)解決方案架構(gòu)部高級總監(jiān)王慧慧、紅帽中國首席架構(gòu)師張家駒與智東西等少數(shù)媒體進行了深入交流。
談到算力目前受到極高的關(guān)注度，曹衡康談道，算力只是短期的一個焦點問題，大家對算力的關(guān)注度太高，而忽略了模型本身算法、開發(fā)平臺等的難度。
趙文斌認為，AI市場仍處在早期，短期突出的是算力緊張的問題，但隨著研究更深入、更多的工具出現(xiàn)，這個問題將會被平滑地過渡過去。
在王慧慧看來，AI目前至少有4個方面的問題值得所有從業(yè)者深入探討，包括基礎(chǔ)架構(gòu)、算法和模型、數(shù)據(jù)以及應用場景。而在企業(yè)級AI中，最核心的問題是如何用更少的投入得到更多的產(chǎn)出，也就是新質(zhì)生產(chǎn)力。
在模型的開源程度方面，張家駒分享道，紅帽提供的IBM Granite模型是將代碼、訓練過程、數(shù)據(jù)、權(quán)重等全都開源的，開源程度非常高。
一、堅持全面開源，AI應像云一樣混合
紅帽全球副總裁兼大中華區(qū)總裁曹衡康首先解讀了紅帽在AI發(fā)展路線上的看法，主要分為兩點：
首先，AI必須是開源的。
▲紅帽對AI的看法其一
曹衡康談道，其實OpenAI一開始也是走開源路線，當時用的還是紅帽的OpenShift技術(shù)，但之后慢慢走向閉源。
在紅帽看來，開源閉源之間并沒有對錯之分，但在封閉體系下，生態(tài)的壟斷和安全隱患已初具端倪。相較之下，開源由于受到整個開源社區(qū)的監(jiān)督，能夠更好地應對安全問題。
同時，開源能夠降低企業(yè)擁有核心技術(shù)的門檻，讓開發(fā)者參與到模型貢獻當中，提升效率和性能。
具體來說，紅帽和IBM將以一個開放項目的形式發(fā)布Apache 2.0許可模型和工具，上個月發(fā)布的基礎(chǔ)模型平臺產(chǎn)品RHEL AI則支持無縫開發(fā)、測試和運行Granite系列大型語言模型，為企業(yè)應用提供動力。
其次，云是混合的，AI也是。
▲紅帽對AI的看法其二
在有了模型之后，所有的東西都必須在云上運作嗎？曹衡康認為，這是非常浪費資源的行為，AI也應該像云計算一樣做公有、私有和邊緣的混合，針對不同的平臺去做優(yōu)化。
基于以上兩個觀點，紅帽在企業(yè)級AI上的戰(zhàn)略是開放混合云、開源思想，以及開放創(chuàng)新實踐。
▲紅帽的企業(yè)級AI戰(zhàn)略與服務(wù)
曹衡康談道，紅帽不做硬件，不做應用，而是在兩者之間提供領(lǐng)先的AI平臺，幫助企業(yè)安全高效地部署和管理AI模型、應用；構(gòu)建AI基礎(chǔ)設(shè)施層，為企業(yè)提供安全的可擴展基礎(chǔ)設(shè)施和自動化。
在生態(tài)合作方面，紅帽目前已經(jīng)擁有5000多家硬件企業(yè)、4000多家軟件企業(yè)合作伙伴。在國際知名IT媒體CRN今年4月評選的AI 100系列名單中，紅帽入選推動AI發(fā)展的20家云公司名單。
二、企業(yè)AI創(chuàng)新面臨六大挑戰(zhàn)，端到端AI平臺三步走
紅帽大中華區(qū)解決方案架構(gòu)部高級總監(jiān)王慧慧介紹了紅帽AI平臺方案。她首先談道，對企業(yè)來說，實施AI創(chuàng)新從來不是一件簡單的事。
模型的選擇問題，只不過是冰山一角，真正實施起來會浮現(xiàn)出更多復雜的問題：如何構(gòu)建基礎(chǔ)架構(gòu)？如何選擇AI工具？ROI太低怎么辦？技術(shù)門檻高、人才稀缺怎么辦？……
企業(yè)需要評估AI應用場景，并運用AI專業(yè)知識來為特定場景選擇適當?shù)哪Ｐ?，還必須處理AI實施過程中的各項顯著難題，加上AI學科高門檻和人才的稀缺性，使得情況更為復雜。
王慧慧稱，企業(yè)實施AI創(chuàng)新目前主要面臨六大挑戰(zhàn)。
▲企業(yè)實施AI創(chuàng)新的六大挑戰(zhàn)
成本方面，GPU貴且不易購置，數(shù)據(jù)科學家難以招聘，企業(yè)被供應商鎖定議價困難。
ROI方面，大模型投入回報率低、回報周期長、時間成本高，AI應用場景目前仍不明確，業(yè)務(wù)目標難以實現(xiàn)。
人才方面，數(shù)據(jù)科學和AI人才稀缺，學習曲線陡峭，AI技術(shù)更新落后于技術(shù)趨勢。
數(shù)據(jù)安全方面，數(shù)據(jù)泄漏、侵犯數(shù)據(jù)隱私、違反數(shù)據(jù)主權(quán)等風險存在，此外行業(yè)和政府監(jiān)管要求高。
算法方面，AI模型訓練與調(diào)優(yōu)復雜，工具和框架難以選擇，模型架構(gòu)復雜。
生態(tài)合作方面，企業(yè)數(shù)據(jù)訓練和調(diào)優(yōu)模型、部署和管理AI模型的協(xié)作效率低，需要在AI生態(tài)中與合作伙伴積極協(xié)作。
基于混合云，紅帽提供從AI基礎(chǔ)架構(gòu)、AI平臺、AI模型到AI賦能應用等全流程的能力。
▲紅帽跨混合云加速AI在企業(yè)中的應用
具體來說，紅帽以三個步驟提供端到端的AI平臺和路徑。
▲端到端AI平臺和路徑
首先，在資源受限的桌面環(huán)境下，采用小數(shù)據(jù)集進行實驗性的訓練。這里用到的Podman是一款用于大模型的開發(fā)工具，它可以在筆記本電腦上快速運行和編碼對本地模型進行操作。InstructLab是一個用于生成式AI模型開發(fā)的開源社區(qū)項目，定期發(fā)布訓練好的模型。
▲InstructLab
第二步，通過完整的合成數(shù)據(jù)生成技術(shù)，采用“教師”模型和“學生”模型的訓練方法，進行生產(chǎn)級模型訓練，并提供基本操作腳本化的工具支持。這一步基于紅帽企業(yè)級Linux AI平臺，其能夠無縫開發(fā)、測試和運行開源Granite模型。
▲紅帽企業(yè)級Linux AI
最后，在更大的分布式集群規(guī)模下，與RHEL AI一樣進行生產(chǎn)級模型訓練。同時充分利用Kubernetes擴展、自動化并實現(xiàn)MLOps的全部功能。這一步基于混合MLOps平臺OpenShift AI實現(xiàn)，該平臺能夠?qū)T、數(shù)據(jù)科學和應用程序開發(fā)團隊聚集在一起，可用作托管云服務(wù)、云端或本地的傳統(tǒng)軟件產(chǎn)品。
▲紅帽O(jiān)penShift AI
此外，紅帽提供跨平臺的Lightspeed產(chǎn)品，基于自然語言生成式AI處理能力，擴展現(xiàn)有的IT技能。Lightspeed通過將AI融入集群管理和操作系統(tǒng)，能夠提高運維人員和開發(fā)人員的工作效率和生產(chǎn)力，簡化企業(yè)規(guī)劃和管理，在混合云中更好地應對企業(yè)IT復雜性。
▲跨紅帽平臺的紅帽Lightspeed
據(jù)介紹，OpenShift Lightspeed將于今年晚些時候提供技術(shù)預覽，RHEL Lightspeed目前處于規(guī)劃階段，Ansible Lightspeed則于去年發(fā)布。
三、加速企業(yè)智能制造升級，融合國內(nèi)AI生態(tài)
談到紅帽在國內(nèi)的重點發(fā)展策略與舉措，曹衡康提到了兩個方向。
首先，配合國家戰(zhàn)略，加速企業(yè)智能制造升級。
▲紅帽在國內(nèi)的重點發(fā)展方向其一
紅帽認為，開源是重塑行業(yè)技術(shù)、打通行業(yè)生態(tài)的重要推力。在工業(yè)控制、通訊技術(shù)、信息技術(shù)等領(lǐng)域，AI轉(zhuǎn)型能滿足行業(yè)功能性能的要求同時實現(xiàn)軟硬解耦，消除硬件及系統(tǒng)層面的行業(yè)壁壘，從而增加靈活性，為應用層的場景爆發(fā)提供先決條件。
▲紅帽在國內(nèi)的重點發(fā)展方向其一
紅帽云原生方案的目標是幫助制造業(yè)實現(xiàn)IT+OT+AI的整合創(chuàng)新。例如，工控微服務(wù)與IT微服務(wù)的混合部署，可以使得制造企業(yè)自動化+數(shù)字化+信息化的整體成本大幅降低；工控微服務(wù)與AI微服務(wù)的混合部署能夠使實時分析高解析度數(shù)據(jù)復雜度大幅降低，進而推動預測性維護、數(shù)字孿生等場景分析準確性的提升。
其次，賦能與融合國內(nèi)AI生態(tài)，加速AI在全行業(yè)的應用。
▲紅帽在國內(nèi)的重點發(fā)展方向其二
通過融合國內(nèi)外GPU廠商、OEM（原廠設(shè)備制造商）、ISV（獨立軟件開發(fā)商）以及云廠商，紅帽將重點放在加速金融、電信、廣義制造業(yè)、汽車等全行業(yè)的應用上。
結(jié)語：開源AI進入企業(yè)，紅帽推動智能制造升級
開源生態(tài)一直是紅帽堅持的理念和戰(zhàn)略，在AI領(lǐng)域，其通過堅持全面開源和混合云理念，提供端到端的AI平臺和解決方案，致力于加速企業(yè)智能制造升級以及融合國內(nèi)AI生態(tài)，以推動AI在各個行業(yè)的廣泛應用和深入發(fā)展。
在溝通會前夕，紅帽向到場媒體發(fā)放了一個小問卷。調(diào)查結(jié)果顯示，有50%的媒體都看重AI開源生態(tài)，僅有5.56%的媒體力挺閉源派，其他媒體則不確定。未來，我們期待看到紅帽能繼續(xù)在AI開源的道路上發(fā)揮重要作用，為行業(yè)的進步和創(chuàng)新做出更大的貢獻。
