Amazon Nova家族最強成員——Nova Premier正式可用!這一全新模型不僅是多智能體協(xié)作的“超級大腦”,更是模型蒸餾教師模型的理想選項。
Amazon Nova Premier現(xiàn)已全面集成至Amazon Bedrock中。Amazon Nova Premier與Amazon Nova Lite和Amazon Nova Pro類似,也支持輸入文本、圖像與視頻(不含音頻)。
Amazon Nova Premier憑借其百萬級別的上下文長度,可以處理極長的文檔或大型代碼庫,在需要深入理解上下文、多步驟規(guī)劃以及跨多個工具和數(shù)據(jù)源精確執(zhí)行的復雜任務中表現(xiàn)出色。
此外,Amazon Nova Premier擁有Amazon Bedrock提供的模型蒸餾能力,開發(fā)者可定制具備高性能、經(jīng)濟高效且低延遲的Amazon Nova Pro、Amazon Nova Lite和Amazon Nova Micro模型,精準匹配業(yè)務需求。例如,Amazon Nova Premier可對Amazon Nova Pro進行蒸餾,有效優(yōu)化其復雜工具選擇與API調(diào)用能力。結果顯示,蒸餾后的Amazon Nova Pro在API調(diào)用時,準確率比基礎版本提升20%,在保持與教師模型相近表現(xiàn)的同時,還具備Amazon Nova Pro的速度和成本優(yōu)勢。
01 Amazon Nova Premier基準測試
在一系列涵蓋文本理解、視覺智能與智能體任務流程的標準基準測試中,Amazon Nova Premier均展現(xiàn)出卓越表現(xiàn)。通過17項基準測試,確立Amazon Nova Premier在Amazon Nova系列中性能最強大的模型地位。
Amazon Nova Premier的性能與業(yè)界最優(yōu)秀的非推理模型相當,在與同級智能模型的對比中,約有半數(shù)基準測試中表現(xiàn)相當或更優(yōu)。詳細評估結果可參閱技術報告。
不僅如此,Amazon Nova Premier還以最快的響應速度和最優(yōu)的性價比,成為Amazon Bedrock中同智能層級的佼佼者。關于模型使用的定價詳情與對比,請參考Amazon Bedrock定價頁面。
值得強調(diào)的是,Amazon Nova Premier還可以作為蒸餾過程中的教師模型,開發(fā)者可將其先進技能遷移至更輕量、響應更快、部署更經(jīng)濟的模型中,如Amazon Nova Pro、Amazon Nova Lite及Amazon Nova Micro,從而在真實生產(chǎn)環(huán)境中實現(xiàn)性能與成本的最佳平衡。
Amazon Nova Premier: Technical Report and Model Card:
https://www.amazon.science/publications/amazon-nova-premier-technical-report-and-model-card
Amazon Bedrock定價頁面:
bedrock.htmlhttps://aws.amazon.com/cn/bedrock/pricing/
02 如何使用Amazon Nova Premier
開始使用Amazon Nova Premier,開發(fā)者需先在Amazon Bedrock控制臺中申請訪問權限。具體路徑為:左側(cè)導航欄點擊“Model access(模型訪問)”,在列表中找到“Amazon Nova Premier”,開啟訪問開關。
獲得訪問權限后,便可通過Amazon BedrockConverse API調(diào)用Amazon Nova Premier模型,向其輸入由用戶與助手構成的消息序列,內(nèi)容可包括文本、圖像和視頻。
然而,Amazon Nova Premier的真正價值,遠不止于此。它最強大的能力,體現(xiàn)在對復雜工作流的深度理解與流暢協(xié)同執(zhí)行,無論是跨步驟的邏輯編排,還是多系統(tǒng)工具的高效調(diào)用,Amazon Nova Premier都能游刃有余。
02 多智能體協(xié)作示例
讓我們通過一個更復雜的場景,深入了解Amazon Nova Premier如何在多Agents協(xié)作架構中發(fā)揮核心作用,助力投資研究任務的高效完成。
股票研究過程通常包含多個階段:首先是確認與特定投資相關的數(shù)據(jù)源,其次是從這些來源中提取所需信息,最后將海量數(shù)據(jù)整合為可執(zhí)行的洞察建議。當研究對象涵蓋股票指數(shù)、個股、貨幣等多種金融工具時,這這個過程會變得越發(fā)復雜。
為應對這一挑戰(zhàn),我們可借助Amazon Bedrock構建一個基于多Agents協(xié)作的研究系統(tǒng),由Amazon Nova Premier驅(qū)動的“監(jiān)督Agent”統(tǒng)一協(xié)調(diào)整個工作流。監(jiān)督Agent分析初始查詢(如:“新能源投資領域有哪些新興趨勢?”)進行深入分析,拆解為若干邏輯步驟,隨后根據(jù)任務需求分配合適的子Agent進行執(zhí)行,綜合最終響應,形成結構清晰、內(nèi)容扎實的綜合答復。
為實現(xiàn)這一場景,我們設計了如下系統(tǒng)組件:
1.由Amazon Nova Premier驅(qū)動的監(jiān)督Agent,負責任務拆解、指令分發(fā)與結果整合;
2.由Amazon Nova Pro驅(qū)動的多個專業(yè)子Agent,分別負責處理不同金融數(shù)據(jù)源的提取與分析任務;
3.連接金融數(shù)據(jù)庫、市場分析工具及其他信息源的工具。
當提交有關“新能源投資新興趨勢”的查詢時,由Amazon Nova Premier驅(qū)動的監(jiān)督Agent將執(zhí)行以下操作:
1.深入解析用戶意圖,識別背后的核心主題與所需涉及的數(shù)據(jù)來源;
2.依據(jù)主題與來源,智能匹配對應的子Agent,實現(xiàn)任務分工;
3.各子Agent分別提取其負責領域內(nèi)的經(jīng)濟指標、技術分析數(shù)據(jù)及市場情緒信息;
4.最終,由監(jiān)督Agent整合所有信息,綜合成一份全面的報告,供金融專業(yè)人士審閱。
這種架構下,Amazon Nova Premier通過精準的流程協(xié)調(diào),有效簡化了金融分析師的工作流程,幫助其更快形成投資分析。
使用Amazon Nova Premier擔任監(jiān)督角色的主要優(yōu)勢在于其協(xié)調(diào)復雜工作流的準確性,從而以最優(yōu)順序查詢正確的數(shù)據(jù)源,每個子Agent接收其工作所需的正確信息,從而產(chǎn)生更高質(zhì)量的洞察。
03 結合模型蒸餾的多Agents協(xié)作
盡管Amazon Nova Premier在準確率上代表了Amazon Nova模型家族的頂尖水準,但在實際生產(chǎn)部署中,用戶常常希望在保證能力的同時,進一步優(yōu)化延遲與成本。這正是Amazon Nova Premier作為教師模型進行蒸餾的優(yōu)勢所在。通過Amazon Bedrock的模型蒸餾機制,我們可以根據(jù)Amazon Nova Premier的結果,定制Amazon Nova Micro模型,用于特定投資研究用例。
與傳統(tǒng)微調(diào)方式不同,蒸餾無需大量人工標注樣本與人工反饋數(shù)據(jù)。借助Amazon Nova Premier本身生成高質(zhì)量參考輸出,即可自動構建訓練數(shù)據(jù),顯著提升數(shù)據(jù)獲取效率與建模質(zhì)量。
模型蒸餾的過程包括:
1.生成合成訓練數(shù)據(jù):在涵蓋多種金融資產(chǎn)類型的任務中,記錄Amazon Nova Premier的輸入與輸出,構建高質(zhì)量訓練樣本;
2.定制訓練Amazon Nova Micro:利用上述數(shù)據(jù),通過自定義微調(diào)工具訓練出針對特定場景優(yōu)化的小型模型;
3.性能評估:對比Amazon Nova Micro與Amazon Nova Premier在延遲、準確性和吞吐量方面的表現(xiàn)差異,確保滿足業(yè)務需求;
4.生產(chǎn)部署:將定制版Amazon Nova Micro部署為生產(chǎn)環(huán)境中的監(jiān)督Agent,實現(xiàn)低延遲、高效率的智能響應。
借助Amazon Bedrock,還可以進一步簡化訓練流程。例如,通過開啟模型調(diào)用日志記錄功能,并將日志寫入設定好的Amazon S3存儲桶,即可自動收集蒸餾所需的數(shù)據(jù),節(jié)省手動準備時間,提升整體建模效率。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.