代理性 AI 已經取代生成式 AI 成為當前科技炒作周期的熱門話題,但存在一個重大問題:目前尚未有 AI 代理的標準定義。
有數十家,甚至可能上百家供應商在宣傳其代理性 AI 產品,但定義的缺失可能導致混淆,尤其是當 CIO 以及其他 IT 負責人在采購和部署這一新興技術時。
一些 AI 專家將代理性 AI 定義為一種工具,其能夠在企業內部自主做出決策、從過去的經驗中學習并調整其響應方式;而另一些專家則認為,只要具備一定決策功能的 AI 都可視作代理性 AI。
部分批評者指出,目前大多數供應商還未真正提供具備獨立自主性的代理性 AI,而僅僅是將一些簡單的 AI 聊天機器人、助手或附屬于大語言模型 (LLM) 的擴展功能標榜為代理性 AI。Perigon —— 一家提供 AI 驅動、基于上下文的搜索工具的廠商的產品副總裁 Zach Bartholomew 指出,許多所謂的代理其實不過是對 LLM 的封裝,或者說是 “被美化處理過的 LLM 工作流程”。
代理熱潮
Backbase —— 一家銀行軟件供應商的 AI 負責人 Chris Shayan 表示,目前 IT 行業中存在大量的 “代理炒作” 現象。
他說:“我已經參加過數十場供應商的產品推介,而那些簡單的自動化解決方案被冠以自主代理的名頭。很多市場上所宣傳的代理,實際上只是傳統算法配上更友好的接口而已,而 CIO 和 CTO 正在努力在這之中辨清真偽。”
在 Shayan 的定義中,真正的代理能夠進行多步驟的推理,并擁有一定的獨立決策權。例如,他提到銀行業已經開始部署 AI 代理,這些代理可以檢測到異常交易模式,并在無需持續人力監管的情況下采取恰當的措施。
Shayan 補充道:“軟件的真正自主性意味著能夠獨立處理端到端的流程——從收集信息、分析選項、執行操作到從結果中學習。真正的代理與其他 AI 系統的區別就在于其在既定的約束范圍內運行,同時又能適應所遇到的新情況。”
處于這一趨勢前沿的 CIO 們也逐漸發現,鑒于當前技術水平、可用數據以及各業務流程的復雜交織,并非所有業務流程都適合引入代理性 AI。
此代理并非真正意義上的自主系統
批評人士表示,缺乏明確標準定義可能導致 IT 負責人購買到與廣告宣傳不符的產品。
Bartholomew 指出:“當所有產品都被稱為代理時,CIO 可能會在那些無法提供真正自主性的軟體上浪費預算,從而導致團隊沮喪、資源浪費,并對 AI 失去信心。我們無疑正朝著真正擁有代理的未來邁進,但目前我認為我們還未達到那個階段。”
Shayan 補充道,這種混淆會導致期望與實際效果不符,從而引發采購決策失誤。“當 CIO 部署了他們認為是基于代理的解決方案,結果卻只是一些華而不實的自動化工具時,他們不僅錯失了真正代理所帶來的變革性潛力,還得支付高昂的費用。這不僅會帶來糟糕的投資回報率,還可能破壞更廣泛的 AI 項目。”
自主性連續體
正如對 AI 代理的定義存在分歧一樣,對于問題本身也有不同的看法。Bartholomew 認為真正的代理距離大規模部署還有大約一年的時間,而人力資源軟件供應商 Dayforce 的 CAIO David Lloyd 則認為代理性 AI 更多的是能力譜系,而非簡單的是或否的定義。
Lloyd 表示,許多 AI 工具已經具備了一定程度的自主性,包括那些能夠從用戶過去的操作中學習并基于這些知識采取行動或做出推薦的 AI 助手。
他說:“這是一條連續體,只不過一端非常理想化,而另一端則非常實用。”
在 Lloyd 看來,定義代理性 AI的重要性不如找到正確的用途來應用組織中所采用的 AI。
他說:“我們不妨問自己‘這是否能推動業務價值或帶來可量化的價值?’因為如果不能,那都只是一種美好的猜想。”
TrEvolution —— 一家旅行軟件和服務供應商的數據科學負責人 Ilia Badeev 補充道,隨著 LLM 不斷增加看起來更像代理的功能,代理與其他 AI 之間的界限會越來越模糊。
Badeev 認為,目前“AI 代理”更多的是一個營銷標簽,而非一個明確定義的術語,許多供應商為了追趕近期的熱潮,紛紛將 “代理” 這一詞應用于 AI 助手和其他工具上。
他說:“AI 代理和 AI 助手之間并沒有明顯的界限,這只不過是營銷上的一種區分。”
Badeev 建議,困惑的 CIO 以及 IT 采購負責人不應將產品是否被標為代理作為關注重點,而應著眼于實際所需的功能。在某些情況下,IT 負責人或許確實需要代理,但許多其他 AI 工具同樣能發揮作用。
他指出:“唯一重要的問題是,你獲得了什么樣的功能?這些功能中的 AI 有多準確?價格如何?”
提出正確的問題
Bartholomew 和 Lloyd 都建議,在從供應商處購買 AI 代理之前,CIO 以及 IT 采購負責人應問一系列關鍵問題。Lloyd 建議,組織在部署類似代理的技術時應采取從小處著手、逐步升級的策略。
他說:“我在與人交流時常用的說法是,必須要經過深思熟慮。從業務以及采購的角度出發,你是否在組織內部積累了一系列簡單乃至更復雜的用例和任務,希望通過技術來解決?”
Bartholomew 表示,如果 CIO 想要一個 AI 代理,應該詢問以下問題:
它能否自行規劃和執行多步驟流程?
它是否會隨著時間的推移進行學習或改進,而不僅僅是執行預設腳本?
它能夠獨立處理哪些類型的決策?
是否能在無人點擊 “批準” 按鈕的情況下采取有效行動?
它是否會隨著時間不斷改善?
它與現有 IT 堆棧的集成效果如何?
Bartholomew 補充道,盡管代理的設計初衷是實現自主決策,但 CIO 們同樣希望保留審計代理行為的選項。
他說:“在可預見的未來,我認為我們仍將保持人機協同。我不認為每一次操作都需要完全脫離人工干預,但最終總會有某個人負責監督這些系統的運行情況。”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.