智東西
作者 ZeR0
編輯 漠影
智東西7月8日報道,6月19日,在亞馬遜云科技中國峰會上,亞馬遜云科技全球技術總經理Shaown Nandi發表主題演講,分享了亞馬遜云科技在云以及AI領域的最新技術洞察和進展。會后,Shaown Nandi接受智東西等媒體的采訪,他告訴智東西,亞馬遜云科技Amazon Bedrock平臺為構建AI agent提供了更多模型選擇和靈活切換能力。借助Amazon Guardrails,用戶可在更換模型或模型版本時,無需重構安全防護策略,簡化工作流程。此外,用戶還可以通過模型蒸餾、提示詞路由等機制優化成本。
每個模型通常都有自己獨立的API接口,而Amazon Bedrock提供的是統一API入口,支持所有模型。這意味著即使未來更換模型,只要用戶最初用的是Amazon Bedrock的API,就無需改變調用方式,而且可以在平臺上選擇接入任意可用的模型。
在AI基礎設施投入和短期盈利的平衡方面,Shaown Nandi稱亞馬遜秉持長期主義,致力于幫助客戶實現長遠目標,幾周前還大幅降低了GPU價格以降低客戶成本。芯片廠商的芯片改進、模型本身的優化,以及亞馬遜云科技的模型蒸餾、自動提示語路由等技術,還有對GPU能耗的改進,都能推動推理成本的下降。
“AI技術的發展恰如巨型海浪的形成:看似平靜的漣漪在特定條件下也可演變為高達30米的巨浪,生成式AI和Agentic AI同樣已從小規模的突破,發展成當今的超級浪潮。而這一轉變主要由不斷創新的模型、海量可用數據及強大計算能力的融合所驅動。隨著企業從謹慎探索轉向廣泛應用,以及亞馬遜云科技等領先科技公司在模型能力、準確性、經濟性與安全性等方面持續創新,這股AI超級巨浪正在重塑全球各個行業。”Shaown Nandi在演講中談道。
會后與媒體溝通期間,Shaown Nandi進一步分享說,Agentic AI和生成式AI已給很多公司帶來了切實可見的成果。而亞馬遜云科技的服務能幫助他們更好地利用自身數據、運力和計算能力打造應用,解決業務難題。
被問到過去一兩年亞馬遜云科技從AI agent發展中看到的增長情況,他分享說,客戶使用和建立AI agent時會生成更多數據需要存儲,云存儲是更好的選擇,客戶對亞馬遜云科技提供的遷移數據方式感到振奮,隨著AI agent的發展,與云相關的使用活動也在增長,且財富500強中75%的工作負載仍在本地,未來遷移空間大,AI agent未來發展前景廣闊。
亞馬遜云科技平臺上有很多好的用戶案例和適用場景,比如在客戶服務方面,Agentic AI應用旅行公司的一線坐席更快更準確地回應客戶,加入情緒分析和實時翻譯功能;軟件工程領域應用增長也很快,亞馬遜云科技自己以及很多初創公司都在Amazon Bedrock上構建了有效的AI agent。
在幫助客戶將AI agent落地到具體應用場景時,亞馬遜云科技有多項獨特優勢,包括提供更多模型選擇、解決無差異化體力活、讓客戶在構建AI agent時能更快調整和更換模型,以及擁有韌性的基礎設施、自研芯片等,能為客戶提供更靈活、可靠、有效的解決方案。
關于客戶調用模型時是集中在少數幾個還是越來越分散,Shaown Nandi觀察到,模型多樣化趨勢明顯,專業、用途明確、能力強的模型不斷出現,應用場景增多,用戶模型選擇持續多元化。
Shaown Nandi還舉例說明了如何建立生成式AI應用,建議利用Amazon Bedrock時需考慮模型選擇、成本、隱私和私密保護等因素。應用開發方面,Amazon Transform能幫助客戶將遺留應用遷移到亞馬遜云科技以實現現代化。Agent構建方面,亞馬遜云科技提供了Amazon Bedrock、Strands Agents等工具。基礎設施方面,亞馬遜云科技在全球建立的區域和專有區域網絡,既與英偉達在云方面長達14年的合作,又有Amazon Trainium、Amazon Graviton等自研芯片,并提供S3 Tables、元數據存儲等高性能存儲工具。
在他看來,MCP對于AI agent來說是強大的解鎖器和解碼器,就像通用的USB-C,能讓AI agent更便捷地獲取服務和數據,使其更自主化、智能化和自動化,前景廣闊,已有很多客戶及亞馬遜云科技自身在使用。
Shaown Nandi稱,所有類型的AI agent均可由合作伙伴或生態系統參與開發,亞馬遜云科技開發的專有agent通常聚焦在自身有深厚專長的領域,或受客戶啟發填補市場空白,目標是讓市場有更多選擇。亞馬遜云科技重視與合作伙伴協同,提供底層技術能力來幫助他們開發應用。
談及企業級市場和C端市場在設計AI agent的區別,他認為企業級應用在設計初期就需考量安全性和韌性,再考慮功能實現,而C端應用初期更關注功能,兩者區別明顯,企業客戶重視亞馬遜云科技服務的韌性、安全性和可控性,在生成式AI使用中,數據使用與存儲至關重要,產品設計中已做大量控制以保護信息。
在開源策略上,Shaown Nandi篤定地說,亞馬遜云科技一直公開支持開源,Strands Agents便是一個開源工具。他相信專有模型和開源模型并存會給用戶更多選擇,也能讓全球開發者更好地回饋社會、共同發展。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.