智東西(公眾號(hào):zhidxcom)
作者 | ZeR0
編輯 | 漠影

智東西7月24日?qǐng)?bào)道,在生成式AI火熱發(fā)展的當(dāng)下,如何讓agent從demo走向生產(chǎn),成為擺在開發(fā)者和企業(yè)面前的關(guān)鍵問題。在剛剛落幕的亞馬遜云科技紐約峰會(huì)上,亞馬遜云科技發(fā)布Amazon Bedrock AgentCore,一次性推出七大功能模塊,直指agents落地的痛點(diǎn)——安全、可觀測(cè)、身份識(shí)別、長期記憶、工具連接等等,幾乎覆蓋了工程化agent的全鏈路能力。

亞馬遜云科技最新推出的這套“全家桶”,能為agent開發(fā)帶來哪些便利?在峰會(huì)期間,智東西與亞馬遜云科技軟件開發(fā)部門負(fù)責(zé)人 Preethi CN進(jìn)行了深入交流。她當(dāng)前負(fù)責(zé)亞馬遜云科技Agentic AI的開發(fā)工作,并對(duì)整個(gè)Agentic AI部門提供戰(zhàn)略指導(dǎo)。

Preethi CN告訴智東西,Amazon Bedrock AgentCore的發(fā)布,對(duì)于開發(fā)者來說是一個(gè)顛覆性的轉(zhuǎn)折點(diǎn),七大功能模塊都是靈活的,客戶既可以全盤采用,又可以根據(jù)自身業(yè)務(wù)目標(biāo)只選擇其中的一項(xiàng),而且它們都能與任何模型或框架兼容。開發(fā)者只需幾行代碼,就能將AgentCore集成到應(yīng)用程序,并直接通過托管服務(wù)獲得這些能力。這些構(gòu)建模塊是以插件和疊加方式作用于agent代碼,為其提供可擴(kuò)展能力,因此不會(huì)約束開發(fā)者采用的編排方式。

“我們的功能設(shè)計(jì)與問題思考完全以客戶問題為出發(fā)點(diǎn)?!彼龔?qiáng)調(diào)說。

談到面向Agentic AI的IDE Kiro,Preethi CN總結(jié)道,Kiro就像一位開發(fā)者身邊的初級(jí)工程師,能協(xié)助編程并達(dá)成目標(biāo),它引入了一個(gè)全新概念——基于規(guī)格驅(qū)動(dòng)的開發(fā),比如用戶只需說一句“在我的應(yīng)用中添加社交登錄”,再配上需求說明或架構(gòu)圖,它就可以自動(dòng)生成結(jié)構(gòu)清晰、高質(zhì)量、可直接部署到生產(chǎn)環(huán)境的代碼。

Kiro的另一個(gè)出色功能是agentic hooks(agent鉤子機(jī)制)。用戶可以將自己的鉤子邏輯交給agent處理,比如說:“當(dāng)我保存這個(gè)文件時(shí),請(qǐng)自動(dòng)生成單元測(cè)試”、“請(qǐng)為這段代碼添加性能指標(biāo)埋點(diǎn)”或“請(qǐng)對(duì)這段代碼進(jìn)行整體優(yōu)化”。把這些作為鉤子添加進(jìn)來,它們就會(huì)在用戶進(jìn)行其他開發(fā)工作時(shí)在后臺(tái)自動(dòng)運(yùn)行。

一、7個(gè)模塊助攻Agent開發(fā)進(jìn)化,從“做得出來”到“跑得起來”

過去,agents的構(gòu)建往往依賴LangChain、Haystack、Strands等開源框架,做個(gè)demo不難,但要讓它穩(wěn)定落地、與業(yè)務(wù)系統(tǒng)打通并保障安全合規(guī),往往需要耗時(shí)幾個(gè)月。

AgentCore的7項(xiàng)新功能,正是為解決這個(gè)“demo與生產(chǎn)之間的鴻溝”而生,開發(fā)者可根據(jù)業(yè)務(wù)需要靈活選配,將自己構(gòu)建的agent推向生產(chǎn)環(huán)境,同時(shí)獲得企業(yè)級(jí)的安全性、可靠性、卓越運(yùn)營和運(yùn)維便利性。

(1)AgentCore Runtime:構(gòu)建一個(gè)安全、彈性、能應(yīng)對(duì)多變?nèi)蝿?wù)負(fù)載的agent運(yùn)行環(huán)境,支持低延遲交互體驗(yàn),可處理長達(dá)8小時(shí)的復(fù)雜異步工作負(fù)載,是目前唯一支持跨各類開源和商業(yè)框架使用并實(shí)現(xiàn)完整會(huì)話隔離的運(yùn)行環(huán)境。

(2)AgentCore Memory:讓agent增強(qiáng)“記性”,提供業(yè)界領(lǐng)先的短期和長期記憶精度,提升agent上下文感知能力。

(3)AgentCore Identity:提供無縫、安全的agent身份驗(yàn)證能力,可與Amazon Cognito、Microsoft Entra ID、Okta等身份服務(wù)集成。

(4)AgentCore Gateway:為agent提供安全路徑以發(fā)現(xiàn)與調(diào)用各類工具,并可輕松將API、Lambda函數(shù)及現(xiàn)有服務(wù)便捷轉(zhuǎn)換為agent可兼容工具。

(5)AgentCore Code Interpreter:支持開發(fā)者根據(jù)安全要求,自定義執(zhí)行環(huán)境的實(shí)例類型與會(huì)話參數(shù)。agents在執(zhí)行復(fù)雜計(jì)算、驗(yàn)證推理、處理數(shù)據(jù)或生成可視化內(nèi)容時(shí),需要在安全的沙箱環(huán)境中編寫并執(zhí)行代碼。

(6)AgentCore Browser Tool:一款不依賴具體模型的、快速且安全的云端瀏覽器工具,讓AI agents大規(guī)模的與網(wǎng)站進(jìn)行交互,可用于填寫表單、網(wǎng)頁導(dǎo)航等任務(wù)。

(7)AgentCore Observability:基于Amazon CloudWatch構(gòu)建,通過內(nèi)置儀表板和telemetry提供重要指標(biāo),并可與現(xiàn)有可觀測(cè)性系統(tǒng)集成,讓開發(fā)者能實(shí)時(shí)追蹤Agent行為鏈路,從而持續(xù)審查agent表現(xiàn),提升系統(tǒng)迭代效率。

AgentCore能與開發(fā)者想用的任何框架集成,亞馬遜云科技相信靈活性才是關(guān)鍵。

二、初創(chuàng)公司上手定制agent,無需啃底層技術(shù)硬骨頭

對(duì)于初創(chuàng)公司如何開始構(gòu)建agent,Preethi CN給了一些實(shí)用建議。

例如,你想做一個(gè)旅行助手Agent,它能幫用戶預(yù)訂喜歡的目的地、安排行程、完成預(yù)訂。你可以從使用模型驅(qū)動(dòng)方式的Strands Agent開始,只需提供想構(gòu)建的Agent的業(yè)務(wù)目標(biāo),選擇模型,就可以自動(dòng)生成所需代碼。

有了這段代碼,再加幾行代碼,就可以集成AgentCore Memory,讓agent自動(dòng)從終端用戶對(duì)話中提取用戶偏好、語義記憶、摘要,并將其作為長期記憶存儲(chǔ),從而可以在未來的對(duì)話中進(jìn)行檢索和應(yīng)用。

如果你想要連接航班并完成預(yù)訂,你還需要一個(gè)安全的瀏覽器,同樣只需幾行代碼即可集成AgentCore Browser Tool,讓它能幫助agent瀏覽網(wǎng)頁,還可以進(jìn)行身份認(rèn)證和授權(quán),從而代表你執(zhí)行操作。

假如你想讓agent訪問企業(yè)數(shù)據(jù),你可以使用AgentCore Gateway。構(gòu)建了這樣的agents,就可以將它們部署到AgentCore Runtime,然后用AgentCore Observability來監(jiān)控運(yùn)行表現(xiàn),找出改進(jìn)agent的策略。

這一整套流程下來,不需要“啃底層”,按需組合模塊即可上線。

Preethi CN強(qiáng)調(diào),亞馬遜云科技始終堅(jiān)持為客戶創(chuàng)新,幫他們擺脫繁重的技術(shù)難題與底層的復(fù)雜工作。

構(gòu)建可靠Agentic AI系統(tǒng)的工程挑戰(zhàn)從底層創(chuàng)新開始。亞馬遜云科技已經(jīng)在大規(guī)模實(shí)現(xiàn)虛擬機(jī)隔離方面進(jìn)行創(chuàng)新,同時(shí)還讓客戶能夠按實(shí)際使用的CPU和內(nèi)存按需付費(fèi),只需為自己所使用的資源付費(fèi)。

亞馬遜云科技在核心技術(shù)領(lǐng)域不斷夯實(shí)差異化能力。比如,自動(dòng)推理就是一個(gè)獨(dú)特能力。面對(duì)模型“幻覺”問題,亞馬遜云科技提出用邏輯推演、數(shù)學(xué)驗(yàn)證等方式判斷輸出是否真實(shí)可信。這種機(jī)制適用于高風(fēng)險(xiǎn)行業(yè)如醫(yī)療、金融等,對(duì)模型輸出的可靠性提出了更高保障。

除了AgentCore外,亞馬遜云科技還提供多個(gè)對(duì)構(gòu)建模型和部署生成式AI應(yīng)用很有幫助的關(guān)鍵產(chǎn)品。

模型托管平臺(tái)Amazon Bedrock,為用戶提供了豐富的基礎(chǔ)模型選擇,能滿足不同業(yè)務(wù)需求,亞馬遜云科技則負(fù)責(zé)可觀測(cè)性和擴(kuò)展性。該平臺(tái)引入AgentCore后,幫助進(jìn)一步加速agent構(gòu)建和部署的流程。

Amazon SageMaker則側(cè)重于幫助開發(fā)者和科學(xué)家訓(xùn)練模型。Amazon Q主要服務(wù)希望構(gòu)建業(yè)務(wù)流程來支持特定場(chǎng)景需求的企業(yè)用戶,主打業(yè)務(wù)流程自動(dòng)化。

結(jié)語:AI agents下一站,從人類輔助走向自主決策

Agentic AI的競爭正從“做得出”走向“用得穩(wěn)”。亞馬遜云科技最新推出的AgentCore,為構(gòu)建agent之旅的提供了“積木式”基礎(chǔ)設(shè)施,用模塊化、可觀測(cè)、可插拔的方式,降低Agent進(jìn)入生產(chǎn)的門檻,構(gòu)建真正穩(wěn)定可控的agent系統(tǒng)。

Preethi CN認(rèn)為,當(dāng)前agent在生產(chǎn)中依然需要部分人工輔助做決策,但隨著模型能力提升,未來它們將發(fā)展成完全自主的agent,在無需人為干預(yù)的情況下做出復(fù)雜決策。從醫(yī)療、金融、市場(chǎng)營銷到制造業(yè),各行各業(yè)都將在Agentic AI的演進(jìn)中迎來轉(zhuǎn)型。而亞馬遜云科技提供的這些構(gòu)建模塊,能夠幫助客戶與開發(fā)者加速邁向Agentic AI之路。

談到通用型Agent及垂直型Agent短期的發(fā)展前景,Preethi CN預(yù)判兩類均存在需求,通用型Agent適合處理與許多用戶相關(guān)的大量標(biāo)準(zhǔn)化任務(wù),而醫(yī)療健康、生命科學(xué)等垂直行業(yè)需要更具領(lǐng)域特性的能力,未來必定是兩者結(jié)合。

“對(duì)我們而言,一切都圍繞為客戶創(chuàng)新這一原則。我對(duì)我們今天所發(fā)布的內(nèi)容感到非常興奮,也很期待接下來這一階段的發(fā)展。這將是一個(gè)非常令人振奮的時(shí)期?!盤reethi CN總結(jié)道。