智東西（公眾號：zhidxcom）
作者 | ?ZeR0
編輯 | ?漠影
幫云客戶快速構(gòu)建生成式AI應(yīng)用這件事，正被全球最大云計算巨頭亞馬遜云科技做得越來越完善。
在7月11日舉行的亞馬遜云科技紐約峰會上，亞馬遜云科技大曬生成式AI成績單：96%的AI/ML獨角獸將其業(yè)務(wù)跑在亞馬遜云科技上， 2024福布斯AI 50榜單中有90%的企業(yè)使用了亞馬遜云科技。
亞馬遜云科技AI產(chǎn)品副總裁Matt Wood博士闡述了企業(yè)如何通過亞馬遜云科技高效、大規(guī)模地整合過去十年的重大技術(shù)突破。據(jù)他分享，過去18個月，亞馬遜云科技已發(fā)布326項生成式AI功能，所提供的正式可用的機器學(xué)習(xí)和生成式AI的產(chǎn)品功能數(shù)量是其他主要云服務(wù)提供商總和的兩倍之多。
在此基礎(chǔ)上，亞馬遜云科技發(fā)布了一系列生成式AI技術(shù)棧的更新，進(jìn)一步降低根據(jù)個性化需求定制生成式AI的門檻，讓人人都能輕松構(gòu)建企業(yè)級生成式AI應(yīng)用。
▲亞馬遜云科技生成式AI三層技術(shù)棧
新發(fā)布包括Amazon Bedrock及Amazon Q的多項更新。其中，Amazon Bedrock更新了微調(diào)Anthropic Claude 3 Haiku、Guardrails（安全防護）和Agents（智能體）等功能；Amazon Q Apps讓人人都能用自然語言指令在幾秒鐘內(nèi)創(chuàng)建生成式AI應(yīng)用；Amazon Q Developer集成到Amazon SageMaker Studio中并正式可用，使得機器學(xué)習(xí)模型的開發(fā)過程更加便捷。
這些更新將提供更高的生成結(jié)果準(zhǔn)確性、更好的記憶功能、更方便的模型評估和治理、更全面的應(yīng)用安全和隱私保護機制，幫助用戶更加快速、安全、輕松地構(gòu)建和部署生成式AI應(yīng)用。
此外，亞馬遜云科技還推出了一項生成式AI驅(qū)動的企業(yè)級應(yīng)用Amazon App Studio的預(yù)覽版，讓IT項目經(jīng)理、數(shù)據(jù)工程師和企業(yè)架構(gòu)師等專業(yè)開發(fā)人員使用自然語言在整個組織內(nèi)創(chuàng)建、部署和管理企業(yè)應(yīng)用程序。
一、直擊生成式AI應(yīng)用多重痛點，構(gòu)建更安全的防護措施
Amazon Bedrock是亞馬遜云科技生成式AI技術(shù)棧的中間層，就像一個大模型貨架般，提供了廣泛的大語言模型及其他基礎(chǔ)模型選擇以及各種好用工具，使構(gòu)建、部署和擴展生成式AI應(yīng)用變得輕松快捷。
它已成為亞馬遜云科技過去十年中增長最快的服務(wù)之一，被數(shù)萬客戶所使用。
針對生成式AI長期被詬病的無法獲取專屬知識、胡說八道的幻覺、缺乏長期記憶等應(yīng)用痛點，Amazon Bedrock推出多項功能更新，以提升用戶使用生成式AI應(yīng)用的體驗，具體包括：
1、知識庫功能增強Amazon Bedrock的數(shù)據(jù)連據(jù)器范圍，加入了對廣泛使用的第三方Web域數(shù)據(jù)源的連接，包括Confluence、Salesforce、SharePoint上的數(shù)據(jù)都可以輕松接入到Amazon Bedrock中，使得在這些Web域中存儲日常數(shù)據(jù)的用戶能夠更方便地將生成式AI帶入日常應(yīng)用場景中。
2、在Guardrails中推出基于上下文基礎(chǔ)檢查的幻覺檢測功能。用戶可在Guardrails中設(shè)置針對生成結(jié)果準(zhǔn)確性的關(guān)聯(lián)值，低于這一設(shè)定閾值的生成結(jié)果就會被Guardrails判定為不相關(guān)的幻覺結(jié)果并不予顯示。這項功能通過對上下文的基礎(chǔ)性檢查來提供，以更好避免基礎(chǔ)模型產(chǎn)生的幻覺問題。
3、推出新API服務(wù)ApplyGuardrail，用于評估所有基礎(chǔ)模型的輸入提示和響應(yīng)，使得用戶能夠在任何基礎(chǔ)模型上使用Guardrails，即使是那些不受Amazon Bedrock支持的基礎(chǔ)模型。構(gòu)建者都可以配置一套標(biāo)準(zhǔn)化的防護措施，以確保其應(yīng)用中的模型輸入提示和模型響應(yīng)擁有更加一致的表現(xiàn)。
4、Agent功能推出跨多個交互的記憶保留特性，解決生成式AI“記不住”的問題，可記錄用戶之前的歷史交互信息，并基于此提供更為精準(zhǔn)的個性化服務(wù)推薦。基于該功能構(gòu)建的Agent，能夠隨時間推移學(xué)習(xí)并適應(yīng)每個用戶的獨特需求和偏好，同時多個記憶之間完全分離，每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下，有助于提升復(fù)雜任務(wù)代理下的用戶體驗。
5、Agent功能上線代碼解釋，支持Agent在安全的沙箱環(huán)境中動態(tài)生成和運行代碼片段，從而顯著提升其處理復(fù)雜任務(wù)的能力，包括數(shù)據(jù)分析、可視化、文本處理、方程求解和優(yōu)化問題等，并支持多種數(shù)據(jù)類型和格式，同時在需要時由大語言模型決定是否調(diào)用該功能，以確保靈活性和安全性。
6、推出微調(diào)Anthropic Claude 3 Haiku功能的預(yù)覽版，至此Amazon Bedrock成為唯一一款可以對Anthropic Claude系列模型進(jìn)行微調(diào)的全托管服務(wù)，支持開發(fā)者利用自有數(shù)據(jù)定制應(yīng)用程序，或在確保私有訓(xùn)練數(shù)據(jù)安全的前提下，訓(xùn)練模型的專屬副本。
與此同時，Amazon MemoryDB的向量搜索功能已正式可用。Amazon MemoryDB以最高的召回率提供最快的向量搜索性能，非常適合需要個位數(shù)毫秒延遲的使用案例。此前亞馬遜云科技已在一些最受歡迎的數(shù)據(jù)服務(wù)中推出了向量搜索功能。
二、Amazon Q全面出擊，讓生成式AI觸手可及
位于亞馬遜云科技生成式AI技術(shù)棧頂端的Amazon Q，定位是一個全面的生成式AI助手，能生成精準(zhǔn)的代碼建議，還能自動執(zhí)行升級Java應(yīng)用程序、生成并實施新功能等復(fù)雜任務(wù)。
Amazon Q包括面向開發(fā)者的Amazon Q Developer和面向企業(yè)應(yīng)用的Amazon Q Business。它可以幫助員工充分利用公司文檔、系統(tǒng)和應(yīng)用程序中的海量數(shù)據(jù)和信息，通過回答問題、提供總結(jié)、生成商業(yè)智能（BI）儀表板和報告，乃至生成自動化關(guān)鍵任務(wù)的應(yīng)用程序。
先來看下已經(jīng)集成到Amazon SageMaker Studio中的Amazon Q Developer，通過簡單的聊天式交互，就能為構(gòu)建機器學(xué)習(xí)模型推薦最佳工具、提供分步指導(dǎo)、生成入門代碼、日常答疑解惑，并在遇到錯誤時提供故障排除幫助。它還能為開發(fā)者量身定制針對機器學(xué)習(xí)開發(fā)生命周期的詳細(xì)執(zhí)行計劃。
機器學(xué)習(xí)模型開發(fā)過程很復(fù)雜，數(shù)據(jù)科學(xué)家往往要花費大量時間來尋找合適的工具、文檔或方法。而現(xiàn)在借助這項服務(wù)，數(shù)據(jù)科學(xué)家有望節(jié)省數(shù)周甚至數(shù)月的工作時間。
Amazon Q Developer已經(jīng)擴展到在用戶自己的集成開發(fā)環(huán)境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發(fā)者私有代碼庫生成的代碼建議，使開發(fā)者能夠更好地打造其專屬的代碼助手。
開發(fā)人員可在Amazon Management Console以及IntelliJ IDEA、Visual Studio、VS Code和Amazon SageMaker Studio等主流的集成開發(fā)環(huán)境中使用Amazon Q Developer，可使用內(nèi)部代碼庫安全定制Amazon Q Developer，從而獲得更相關(guān)、更有用的內(nèi)聯(lián)編碼建議，大幅節(jié)省時間。
為了讓每位員工都能輕松創(chuàng)建自己的生成式AI應(yīng)用程序，實現(xiàn)任務(wù)自動化，Amazon Q Business中的Amazon Q Apps功能也正式可用。
Amazon Q Business支持軟件開發(fā)、數(shù)據(jù)分析洞察和內(nèi)容創(chuàng)作等多種生成式AI任務(wù)，Amazon Q Apps則更進(jìn)一步強化這項服務(wù)的能力，使得不具備技術(shù)背景的用戶也能在幾秒鐘內(nèi)構(gòu)建基于企業(yè)數(shù)據(jù)的生成式AI應(yīng)用。
操作非常簡便，只需用自然語言簡單描述所需應(yīng)用程序的功能，例如，用戶提出“請從會議記錄中提取行動要點”或“我需要協(xié)助撰寫公司文件”，Amazon Q就能快速生成應(yīng)用程序自動完成這些任務(wù)，并持續(xù)提供高效服務(wù)。
Amazon Q提供了一鍵生成應(yīng)用程序的功能，讓員工能夠從現(xiàn)有對話中快速創(chuàng)建應(yīng)用程序，并支持安全地將其發(fā)布到企業(yè)內(nèi)部的應(yīng)用程序庫Amazon Q Apps Library中，并添加多個應(yīng)用類型標(biāo)簽，從方便企業(yè)內(nèi)的使用者快速查找其所需的Q Apps應(yīng)用。
亞馬遜云科技還推出了一款生成式AI服務(wù)Amazon App Studio的預(yù)覽版，將開發(fā)企業(yè)級應(yīng)用的能力擴展到開發(fā)人員之外，以便IT項目經(jīng)理、數(shù)據(jù)工程師和企業(yè)架構(gòu)師等專業(yè)開發(fā)人員使用自然語言在整個組織內(nèi)創(chuàng)建、部署和管理企業(yè)應(yīng)用程序。
同樣，用戶可以通過自然語言描述其特性和功能需求以及需要整合的數(shù)據(jù)源，App Studio便能在幾分鐘內(nèi)構(gòu)建出一個類似的應(yīng)用程序，還能夠通過點選式界面進(jìn)行修改。相比之下，傳統(tǒng)上專業(yè)開發(fā)人員從頭開始構(gòu)建，可能要花費幾天。
App Studio的生成式AI助手消除了傳統(tǒng)低代碼工具的學(xué)習(xí)曲線，加速了應(yīng)用程序的創(chuàng)建過程，并簡化了設(shè)計UI、構(gòu)建工作流程和測試應(yīng)用程序等常見任務(wù)。每個應(yīng)用程序都可以迅速擴展至數(shù)千名用戶，同時由亞馬遜云科技提供全面的安全管理，無需任何運營專業(yè)知識。
結(jié)語：全面加速生成式AI落地，亞馬遜云科技給出參考樣本
生成式AI提供了前所未有的生產(chǎn)力提升工具，但怎么讓不具備技術(shù)背景的企業(yè)也能更快享受到生成式AI帶來的便利，對云服務(wù)供應(yīng)商提出不小的考驗。已經(jīng)穩(wěn)坐全球最大云計算巨頭的亞馬遜云科技，同樣希望成為企業(yè)構(gòu)建和應(yīng)用生成式AI的首選，其遍布生成式AI各技術(shù)棧的更新則正在進(jìn)一步加速這一愿景的實現(xiàn)。
亞馬遜云科技認(rèn)為要讓企業(yè)的所有員工能用生成式AI提升工作效率，不僅需要強大的基礎(chǔ)模型，而且需要具備全方位的能力來構(gòu)建和擴展定制化的生成式AI應(yīng)用，包括內(nèi)嵌生成式AI的應(yīng)用程序、快速實驗和構(gòu)建自有生成式AI應(yīng)用程序的工具、高性價比且高效的基礎(chǔ)設(shè)施，以及嚴(yán)密的安全控制和防護措施。
對此，亞馬遜云科技正通過構(gòu)建全面的生成式AI技術(shù)棧，包攬從構(gòu)建到部署過程中的常見“煩心事”，降低技術(shù)認(rèn)知和實操門檻，將生成式AI落地的成本打下來，將簡單留給用戶。這為云計算企業(yè)如何更好服務(wù)于生成式AI落地提供了參考樣本。
除了不斷完善技術(shù)棧外，亞馬遜云科技也通過積極拓寬合作伙伴版圖，來推動對生成式AI生態(tài)的擴張。
繼今年3月推出業(yè)內(nèi)首個生成式AI能力認(rèn)證后，亞馬遜云科技在紐約峰會上宣布了全球第二批獲得該能力認(rèn)證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數(shù)據(jù)、八斗智能、墨奇科技、神州數(shù)碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨海科技和華訊網(wǎng)絡(luò)。
獲得認(rèn)證的企業(yè)在利用亞馬遜云科技生成式AI技術(shù)方面擁有專業(yè)知識、實踐經(jīng)驗和成功案例方面已經(jīng)得到驗證與認(rèn)可。截至目前，全球有60余家合作伙伴獲得了該認(rèn)證。亞馬遜云科技生成式AI與機器學(xué)習(xí)市場推廣全球副總裁Rahul Pathak分享說，這些合作伙伴已經(jīng)在全球范圍內(nèi)幫助客戶構(gòu)建和部署了許多生成式AI工作負(fù)載，取得了顯著成就和積極影響。
