文章來(lái)源丨麥肯錫公司：Lareina Yee、Michael Chui、Roger Roberts 和 Stephen Xu，慎思行采編翻譯

個(gè)人微信丨hello_SSX

在過(guò)去幾年里，生成式人工智能（Gen AI）所釋放出的能力和可能性令世人驚嘆不已。大型語(yǔ)言模型（LLMs）等基礎(chǔ)模型可以在文本、音頻、圖像和視頻等多種媒介中提取洞察并生成內(nèi)容，工作表現(xiàn)令人印象深刻。但是，生成式人工智能的下一階段可能會(huì)更具變革性。

我們正從基于知識(shí)的生成式AI工具——例如回答問(wèn)題和生成內(nèi)容的聊天機(jī)器人——向生成式AI驅(qū)動(dòng)的“智能體”演進(jìn)，這些智能體利用基礎(chǔ)模型在數(shù)字世界中執(zhí)行復(fù)雜的多步驟工作流程。簡(jiǎn)而言之，技術(shù)正在從“思想”轉(zhuǎn)向“行動(dòng)”。

廣義上講，"智能體"系統(tǒng)指的是能夠在動(dòng)態(tài)世界中獨(dú)立互動(dòng)的數(shù)字系統(tǒng)。雖然這些軟件系統(tǒng)的版本已經(jīng)存在多年，但是生成式AI的自然語(yǔ)言能力展現(xiàn)了新的可能性，使系統(tǒng)能夠規(guī)劃行動(dòng)、使用在線工具完成任務(wù)、與其他智能體和人類協(xié)作，并通過(guò)學(xué)習(xí)改善表現(xiàn)。生成式AI智能體最終可能成為熟練的虛擬同事，以無(wú)縫且自然的方式與人類合作。例如，虛擬助手可以規(guī)劃和預(yù)訂復(fù)雜的個(gè)性化旅游行程，處理多個(gè)跨平臺(tái)的物流。工程師可以使用日常語(yǔ)言向程序員智能體描述新的軟件功能，然后智能體會(huì)編寫代碼、測(cè)試、迭代并部署它幫助創(chuàng)建的工具。

傳統(tǒng)上，智能體系統(tǒng)很難實(shí)現(xiàn)，需要基于規(guī)則的繁瑣編程或機(jī)器學(xué)習(xí)模型經(jīng)過(guò)高度疼的訓(xùn)練來(lái)實(shí)現(xiàn)，Gen AI改變了這一點(diǎn)。

當(dāng)智能體系統(tǒng)使用基礎(chǔ)模型（這些模型在極其龐大且多樣的非結(jié)構(gòu)化數(shù)據(jù)集上進(jìn)行了訓(xùn)練）而不是預(yù)定義規(guī)則來(lái)構(gòu)建時(shí)，它們就有可能以類似于LLMs的方式對(duì)未經(jīng)明確訓(xùn)練的提示做出智能回應(yīng)，適應(yīng)不同場(chǎng)景。此外，人類用戶可以使用自然語(yǔ)言而不是編程代碼，指揮Gen AI智能體系統(tǒng)完成復(fù)雜的工作流程。

然后，多智能體系統(tǒng)可以將這一工作流程解釋和組織為可執(zhí)行的任務(wù)，將工作分配給專門的智能體，使用數(shù)字工具生態(tài)系統(tǒng)執(zhí)行這些細(xì)化任務(wù)，并與其他智能體和人類合作，不斷改進(jìn)其行動(dòng)的質(zhì)量。

在本文中，我們將探討使用Gen AI智能體所帶來(lái)的機(jī)遇。盡管該技術(shù)仍處于初級(jí)階段，在商業(yè)部署之前還需要進(jìn)一步的技術(shù)開(kāi)發(fā)，但它正在迅速吸引關(guān)注。僅在過(guò)去一年，谷歌、微軟、OpenAI 等公司就已投資于支持智能體功能的軟件庫(kù)和框架。由LLM驅(qū)動(dòng)的應(yīng)用程序，如微軟Copilot、亞馬遜Q和谷歌即將推出的Project Astra，正從知識(shí)型向行動(dòng)型轉(zhuǎn)變。Adept、crewAI 和 Imbue 等公司和研究實(shí)驗(yàn)室也在開(kāi)發(fā)基于智能體的模型和多智能體系統(tǒng)。鑒于Gen AI的發(fā)展速度，智能體可能會(huì)像今天的聊天機(jī)器人一樣普及。

智能體能為企業(yè)帶來(lái)什么價(jià)值？

智能體所能釋放的價(jià)值，源于其自動(dòng)化處理大量復(fù)雜用例的潛力——這些用例通常具有高度可變的輸入和輸出，并且長(zhǎng)期以來(lái)一直難以通過(guò)減少成本或時(shí)間的方式解決。以看似簡(jiǎn)單的商務(wù)旅行為例，它可能涉及涵蓋涉及不同航空公司和航班的多種可能行程，更不必說(shuō)酒店會(huì)員獎(jiǎng)勵(lì)計(jì)劃、餐廳預(yù)訂和休閑活動(dòng)安排，所有這些都必須在不同的平臺(tái)進(jìn)行處理。雖然部分流程已經(jīng)實(shí)現(xiàn)了自動(dòng)化，但大部分仍需手動(dòng)完成。這在很大程度上是因?yàn)闈撛诘妮斎牒洼敵霾町惡艽螅瑢?dǎo)致整個(gè)流程過(guò)于復(fù)雜、成本過(guò)高或時(shí)間過(guò)長(zhǎng)，難以實(shí)現(xiàn)自動(dòng)化。

Gen AI驅(qū)動(dòng)的智能體可以通過(guò)以下三種重要方式簡(jiǎn)化復(fù)雜和開(kāi)放式用例的自動(dòng)化：

1. 智能體可以處理多樣性管理

許多商業(yè)用例和流程都具有線性工作流程的特點(diǎn)——明確的起點(diǎn)、一系列導(dǎo)向特定解決方案或結(jié)果的步驟。這種相對(duì)簡(jiǎn)單的特點(diǎn)使其很容易通過(guò)基于規(guī)則的系統(tǒng)編碼和自動(dòng)化。但基于規(guī)則的系統(tǒng)往往表現(xiàn)出“脆弱性”，即當(dāng)遇到規(guī)則設(shè)計(jì)者未明確考慮的情況時(shí)，系統(tǒng)就會(huì)崩潰。例如，許多工作流程的可預(yù)測(cè)性要低得多，充斥著意想不到的波折和多種潛在結(jié)果；這些工作流程需要特殊處理和細(xì)致判斷，這使得基于規(guī)則的自動(dòng)化極具挑戰(zhàn)性。

但是，Gen AI智能體系統(tǒng)基于基礎(chǔ)模型構(gòu)建，能夠針對(duì)特定用例應(yīng)對(duì)各種低概率場(chǎng)景，實(shí)時(shí)動(dòng)態(tài)調(diào)整，以執(zhí)行完成流程所需的專項(xiàng)任務(wù)。

2.智能體系統(tǒng)可以通過(guò)自然語(yǔ)言指令驅(qū)動(dòng)

目前，要實(shí)現(xiàn)一個(gè)用例的自動(dòng)化，首先必須將其分解為一系列可編碼的規(guī)則和步驟。這些步驟通常要轉(zhuǎn)化為計(jì)算機(jī)代碼，并集成到軟件系統(tǒng)中——這一過(guò)程通常既費(fèi)錢又費(fèi)力，還需要大量的專業(yè)技術(shù)知識(shí)。由于智能體系統(tǒng)以自然語(yǔ)言作為指令形式，即使是復(fù)雜的工作流也能更快、更輕松地實(shí)現(xiàn)編碼。更重要的是，該流程可能由非技術(shù)人員（而不是軟件工程師）完成。這不僅便于整合領(lǐng)域?qū)I(yè)知識(shí)，還拓寬了使用Gen AI和AI工具的普及范圍，同時(shí)簡(jiǎn)化了技術(shù)與非技術(shù)團(tuán)隊(duì)之間的協(xié)作。

3.智能體系統(tǒng)能夠與現(xiàn)有軟件工具和平臺(tái)協(xié)同工作

除了分析和生成知識(shí)，智能體系統(tǒng)還可以使用工具并在更廣泛的數(shù)字生態(tài)系統(tǒng)中進(jìn)行交互。例如，可以指導(dǎo)智能體與軟件應(yīng)用（如圖表繪制工具）協(xié)作、在互聯(lián)網(wǎng)上檢索信息、收集并整合人工反饋，甚至調(diào)用其他基礎(chǔ)模型。數(shù)字工具的使用既是智能體的核心特征（這是智能體在真實(shí)場(chǎng)景中產(chǎn)生實(shí)際行動(dòng)的方式之一），也是Gen AI能夠得以發(fā)揮獨(dú)特作用的途徑。基礎(chǔ)模型能夠?qū)W習(xí)如何通過(guò)自然語(yǔ)言或其他接口與工具交互。如果沒(méi)有基礎(chǔ)模型，這些能力將需要大量的手動(dòng)工作來(lái)集成系統(tǒng)，例如使用ETL（提取、轉(zhuǎn)換和加載）工具），或通過(guò)繁瑣的人工操作來(lái)整理不同軟件系統(tǒng)的輸出結(jié)果。

Gen AI智能體如何工作？

智能體系統(tǒng)能夠支持跨行業(yè)和業(yè)務(wù)職能部門的高復(fù)雜度用例，尤其適用于涉及耗時(shí)任務(wù)或需要多種專業(yè)定性和定量分析的工作流。其核心能力在于通過(guò)遞歸方式分解復(fù)雜流程，并基于專項(xiàng)指令和數(shù)據(jù)源執(zhí)行子任務(wù)，以達(dá)成最終目標(biāo)。這一流程通常遵循以下四個(gè)步驟：

1.用戶指令輸入

用戶通過(guò)自然語(yǔ)言指令與AI系統(tǒng)交互（類似對(duì)可信賴的員工下達(dá)任務(wù)）。系統(tǒng)識(shí)別目標(biāo)用例，并在必要時(shí)要求用戶進(jìn)一步說(shuō)明需求。

2.智能體系統(tǒng)規(guī)劃、分配和執(zhí)行工作

智能體系統(tǒng)將指令處理成工作流程，分解為任務(wù)和子任務(wù)，并由管理型子智能體分配給其他專業(yè)子智能體。這些子智能體依托領(lǐng)域知識(shí)、工具，先前 "經(jīng)驗(yàn) "和已編碼化的專業(yè)知識(shí)，協(xié)同調(diào)用組織數(shù)據(jù)與系統(tǒng)來(lái)執(zhí)行這些任務(wù)。

3.智能體系統(tǒng)不斷改進(jìn)輸出

在整個(gè)過(guò)程中，智能體可能會(huì)要求用戶補(bǔ)充輸入，以確保準(zhǔn)確性和相關(guān)性。最后，智能體系統(tǒng)會(huì)結(jié)合用戶反饋迭代優(yōu)化，直至提供最終輸出結(jié)果。

4.智能體執(zhí)行操作

智能體在實(shí)際操作中執(zhí)行所以的必要行動(dòng)，以徹底完成用戶請(qǐng)求的任務(wù)。

可能性探索：三大潛在應(yīng)用場(chǎng)景

這類系統(tǒng)對(duì)企業(yè)意味著什么？以下三個(gè)假設(shè)性用例揭示了不遠(yuǎn)的將來(lái)的可能圖景。

用例 1：貸款核銷

金融機(jī)構(gòu)需通過(guò)撰寫信貸風(fēng)險(xiǎn)備忘錄來(lái)評(píng)估向借款方提供信貸或貸款的風(fēng)險(xiǎn)。這一過(guò)程涉及收集、分析和審核與借款方、貸款類型和其他因素相關(guān)的各種類信息。由于信貸風(fēng)險(xiǎn)評(píng)估場(chǎng)景多樣且需多維度分析，該流程往往耗時(shí)且高度依賴協(xié)作——客戶經(jīng)理需與借款方、利益相關(guān)方和信貸分析師合作進(jìn)行專項(xiàng)分析，然后提交給信貸經(jīng)理進(jìn)行審核并補(bǔ)充專業(yè)意見(jiàn)。

基于智能體的潛在解決方案：一套由多個(gè)智能體組成的系統(tǒng)（每個(gè)智能體都承擔(dān)特定任務(wù)角色），可設(shè)計(jì)用于處理廣泛的信用風(fēng)險(xiǎn)場(chǎng)景。用戶可通過(guò)自然語(yǔ)言輸入高層級(jí)的工作計(jì)劃，明確規(guī)則、標(biāo)準(zhǔn)與條件。隨后，智能體團(tuán)隊(duì)會(huì)將工作拆解為可執(zhí)行的子任務(wù)。

例如，一個(gè)智能體可以扮演客戶關(guān)系經(jīng)理的角色，處理借款方與金融機(jī)構(gòu)之間的溝通事宜。執(zhí)行智能體可以整理必要的文件，并轉(zhuǎn)發(fā)給財(cái)務(wù)分析智能體，后者將分析現(xiàn)金流量表中的債務(wù)數(shù)據(jù)，并計(jì)算相關(guān)財(cái)務(wù)比率，隨后由審核智能體進(jìn)行審查識(shí)別矛盾并提供反饋。這種分解、分析、優(yōu)化和審核的過(guò)程會(huì)不斷重復(fù)，直到最終完成信貸風(fēng)險(xiǎn)備忘錄。

與傳統(tǒng)的生成式AI架構(gòu)不同，智能體系統(tǒng)可以生成高質(zhì)量的內(nèi)容，將審核周期縮短 20% 至 60%。智能體還能跨多個(gè)系統(tǒng)，整合多來(lái)源的數(shù)據(jù)。最后，智能體可以展示其工作過(guò)程：信貸分析師可以快速追溯生成的文本或數(shù)字，訪問(wèn)完整的任務(wù)鏈及數(shù)據(jù)來(lái)源，從而高效驗(yàn)證輸出結(jié)果的可靠性。

用例 2：代碼文檔和現(xiàn)代化改造

大型企業(yè)的遺留軟件應(yīng)用程序和系統(tǒng)往往會(huì)帶來(lái)安全風(fēng)險(xiǎn)，并可能減緩業(yè)務(wù)創(chuàng)新的步伐。但實(shí)現(xiàn)對(duì)這些系統(tǒng)的現(xiàn)代化改造過(guò)程復(fù)雜、成本昂貴且耗時(shí)費(fèi)力，需要工程師審查和理解數(shù)百萬(wàn)行的舊代碼庫(kù)和業(yè)務(wù)邏輯的手工文檔，然后將這些邏輯遷移至更新后的代碼庫(kù)，并與其他系統(tǒng)進(jìn)行整合。

基于智能體的潛在解決方案：AI智能體有望大大簡(jiǎn)化這一流程。

可以部署一個(gè)專門化的遺留軟件專家智能體，通過(guò)分析舊代碼實(shí)現(xiàn)文檔化處理和代碼片段的記錄與翻譯。與此同時(shí)，質(zhì)量保障智能體可以審核這些文檔并生成測(cè)試用例，幫助AI系統(tǒng)迭代優(yōu)化其輸出結(jié)果，確保其準(zhǔn)確性和對(duì)組織標(biāo)準(zhǔn)的遵從性。

此外，這種可重復(fù)的流程還將產(chǎn)生飛輪效應(yīng)，即智能體框架的組件可在整個(gè)組織的其他軟件遷移項(xiàng)目中重復(fù)使用，從而顯著提高開(kāi)發(fā)效率并降低軟件開(kāi)發(fā)的總體成本。

用例 3：創(chuàng)建在線營(yíng)銷活動(dòng)

設(shè)計(jì)、啟動(dòng)和運(yùn)行在線營(yíng)銷活動(dòng)往往涉及一系列

不同的軟件工具、應(yīng)用程序和平臺(tái)。在線營(yíng)銷活動(dòng)的工作流程也非常復(fù)雜：企業(yè)需要將業(yè)務(wù)目標(biāo)和市場(chǎng)趨勢(shì)轉(zhuǎn)化為富有創(chuàng)意的營(yíng)銷理念；針對(duì)不同客戶的細(xì)分市場(chǎng)和地域定制文字和視覺(jué)素材；還需通過(guò)不同平臺(tái)的用戶群體測(cè)試活動(dòng)效果。為了完成這些任務(wù)，營(yíng)銷團(tuán)隊(duì)通常需要使用多種形式的軟件，并將產(chǎn)出從一個(gè)工具遷移到另一個(gè)工具，這一過(guò)程往往繁瑣且耗時(shí)。

基于智能體的潛在解決方案：智能體可以幫助連接這個(gè)數(shù)字營(yíng)銷生態(tài)系統(tǒng)。例如，營(yíng)銷人員可以用自然語(yǔ)言描述目標(biāo)用戶、初始創(chuàng)意、目標(biāo)渠道和其他參數(shù)。然后，在營(yíng)銷人員的協(xié)助下，由智能體系統(tǒng)幫助開(kāi)發(fā)、測(cè)試和迭代不同的營(yíng)銷活動(dòng)創(chuàng)意。數(shù)字營(yíng)銷戰(zhàn)略智能體可以利用在線調(diào)查、客戶關(guān)系管理解決方案中的分析結(jié)果，以及其他市場(chǎng)研究平臺(tái)來(lái)收集洞察，借助多模態(tài)基礎(chǔ)模型制定戰(zhàn)略。然后，內(nèi)容營(yíng)銷、文案撰寫和設(shè)計(jì)智能體可以創(chuàng)建定制化內(nèi)容，并由人工審核員評(píng)估其品牌契合度。這些智能體將合作迭代和完善產(chǎn)出內(nèi)容，并朝著既能優(yōu)化活動(dòng)影響又能最大限度降低品牌風(fēng)險(xiǎn)的方向努力。

領(lǐng)導(dǎo)者應(yīng)如何為智能體時(shí)代做好準(zhǔn)備？

雖然智能體技術(shù)剛剛起步，但隨著對(duì)相關(guān)工具的持續(xù)投資，智能體系統(tǒng)有望在未來(lái)幾年實(shí)現(xiàn)重大突破并大規(guī)模部署。

因此，企業(yè)領(lǐng)導(dǎo)者現(xiàn)在開(kāi)始深入了解智能體技術(shù)，并考慮是否可以借助智能體系統(tǒng)來(lái)加速一些核心業(yè)務(wù)流程或戰(zhàn)略目標(biāo)，時(shí)機(jī)正好。這種了解可以為未來(lái)的路線圖規(guī)劃提供依據(jù)，幫助企業(yè)在創(chuàng)新浪潮中保持競(jìng)爭(zhēng)優(yōu)勢(shì)。一旦明確潛在用例，企業(yè)就可以通過(guò)API、工具包和庫(kù)（例如，微軟 Autogen、Hugging Face 和 LangChain）探索不斷發(fā)展的智能體環(huán)境，逐步篩選適配自身需求的解決方案

為迎接智能體系統(tǒng)的到來(lái)，企業(yè)應(yīng)重點(diǎn)關(guān)注以下三個(gè)因素，這些要素將決定此類系統(tǒng)能否充分發(fā)揮其潛力：

1. 相關(guān)知識(shí)的系統(tǒng)化編碼

復(fù)雜用例的實(shí)施要求企業(yè)定義業(yè)務(wù)流程并文檔化為結(jié)構(gòu)化工作流程，用于培訓(xùn)智能體。同時(shí)，企業(yè)需思考如何將專業(yè)知轉(zhuǎn)化為自然語(yǔ)言指令，從而通過(guò)智能體簡(jiǎn)化復(fù)雜的流程。

2.戰(zhàn)略性技術(shù)規(guī)劃

企業(yè)需重新梳理數(shù)據(jù)和 IT 系統(tǒng)架構(gòu)，確保智能體系統(tǒng)能與現(xiàn)有基礎(chǔ)設(shè)施有效對(duì)接。這包括采集用戶交互數(shù)據(jù)以獲得持續(xù)反饋并優(yōu)化模型，以及構(gòu)建靈活的技術(shù)框架以便在不干擾現(xiàn)有運(yùn)營(yíng)的情況下整合新興技術(shù)。

3. 人機(jī)協(xié)同控制機(jī)制

當(dāng)AI智能體開(kāi)始與現(xiàn)實(shí)世界互動(dòng)時(shí)，控制機(jī)制對(duì)于平衡自主性和風(fēng)險(xiǎn)至關(guān)重要（見(jiàn) "理解智能體系統(tǒng)的獨(dú)特風(fēng)險(xiǎn)"）。人類必須驗(yàn)證輸出的準(zhǔn)確性、合規(guī)性和公平性；與領(lǐng)域?qū)＜覅f(xié)作維護(hù)和擴(kuò)展智能體系統(tǒng)；并建立持續(xù)改進(jìn)的學(xué)習(xí)飛輪。企業(yè)應(yīng)盡早明確人機(jī)協(xié)同機(jī)制的適用場(chǎng)景與部署方式。

了解智能智能體系統(tǒng)的獨(dú)特風(fēng)險(xiǎn)

眾所周知，當(dāng)前的大型語(yǔ)言模型（LLMs）存在錯(cuò)誤和“幻覺(jué)”問(wèn)題。由于智能體系統(tǒng)處理的是 LLM生成的連續(xù)輸出序列，若缺乏保護(hù)措施，單個(gè)輸出中的“幻覺(jué)”可能產(chǎn)生連鎖反應(yīng)。此外，由于智能體系統(tǒng)被設(shè)計(jì)為自主運(yùn)行，企業(yè)領(lǐng)導(dǎo)者必須考慮額外的監(jiān)督機(jī)制和防護(hù)措施。雖然很難完全預(yù)測(cè)智能體機(jī)構(gòu)會(huì)帶來(lái)的所有風(fēng)險(xiǎn)，但以下是一些應(yīng)該考慮的風(fēng)險(xiǎn)。

01

潛在有害輸出：大語(yǔ)言模型的輸出并非總是準(zhǔn)確，可能會(huì)提供不正確的信息或執(zhí)行具有不良后果的操作。隨著生成式人工智能（gen AI）智能體在千變?nèi)f化的場(chǎng)景中獨(dú)立使用數(shù)字工具和數(shù)據(jù)執(zhí)行任務(wù)，此類風(fēng)險(xiǎn)也隨之加劇。例如，智能體可能會(huì)批準(zhǔn)一筆高風(fēng)險(xiǎn)貸款，從而導(dǎo)致經(jīng)濟(jì)損失，也可能會(huì)代表客戶進(jìn)行不可退款的高額消費(fèi)。

緩解策略：企業(yè)應(yīng)實(shí)施強(qiáng)有力的問(wèn)責(zé)機(jī)制，明確界定智能體與人類的責(zé)任邊界，并確保智能體輸出結(jié)果的可解釋性。具體措施包括：

• 開(kāi)發(fā)框架管理智能體的自主權(quán)：例如，根據(jù)用例的復(fù)雜度限制智能體的行動(dòng)范圍。

• 確保人工監(jiān)督：例如，在執(zhí)行前驗(yàn)證智能體的輸出，并對(duì)智能體的決策進(jìn)行定期審核。

• 構(gòu)建透明度和可追溯性機(jī)制，幫助用戶了解智能體的決策過(guò)程，及早發(fā)現(xiàn)潛在的問(wèn)題

02

工具濫用風(fēng)險(xiǎn)：智能體能夠訪問(wèn)工具和數(shù)據(jù)，如果被故意濫用，可能會(huì)引發(fā)危險(xiǎn)。例如，智能體可能被用來(lái)編寫易受攻擊的代碼、制造仿真的網(wǎng)絡(luò)釣魚(yú)騙局或竊取敏感信息。

緩解策略：針對(duì)高風(fēng)險(xiǎn)場(chǎng)景，企業(yè)應(yīng)建立防護(hù)機(jī)制（例如設(shè)置訪問(wèn)控制與操作權(quán)限限制），并為智能體創(chuàng)建封閉的環(huán)境（例如限制智能體的可訪問(wèn)的工具與數(shù)據(jù)源）。此外，企業(yè)還應(yīng)對(duì)智能體活動(dòng)進(jìn)行實(shí)時(shí)監(jiān)控，對(duì)可疑行為自動(dòng)發(fā)出警報(bào)。定期開(kāi)展審核合規(guī)性檢查，確保防護(hù)機(jī)制持續(xù)有效。

03

人機(jī)信任失衡問(wèn)題：正如人類與同事之間的關(guān)系一樣，人類與AI智能體之間的互動(dòng)也建立在信任的基礎(chǔ)上。如果用戶缺乏對(duì)智能體系統(tǒng)的信任，可能減少必要的人機(jī)交互與信息共享，阻礙智能體系統(tǒng)的學(xué)習(xí)優(yōu)化。反之，隨著智能體越來(lái)越擅長(zhǎng)模仿人類的行為，部分用戶可能過(guò)度信任智能體智能體，賦予其人類水平的理解力和判斷力，導(dǎo)致用戶不加批判地接受建議，或在沒(méi)有充分監(jiān)督的情況下給予智能體過(guò)多的自主權(quán)。

緩解策略：組織可以通過(guò)提升智能體決策的透明度來(lái)管理這些問(wèn)題。在此過(guò)程中，我們需要確保用戶接受了負(fù)責(zé)任地使用智能體的培訓(xùn)，并建立人機(jī)協(xié)同流程來(lái)管理智能體行為，人工監(jiān)督智能體程序是確保用戶保持平衡視角的關(guān)鍵所在。此外，通過(guò)關(guān)鍵績(jī)效指標(biāo)（例如，客戶滿意度、票據(jù)的成功完成率）評(píng)估智能體效能，并保留智能體行動(dòng)的最終權(quán)力和責(zé)任。

除上述風(fēng)險(xiǎn)外，企業(yè)還應(yīng)關(guān)注Gen AI智能體引發(fā)的更廣泛?jiǎn)栴}：

• 價(jià)值觀一致：由于智能體與同事關(guān)系密切，他們的行為應(yīng)體現(xiàn)組織的價(jià)值觀。智能體應(yīng)在其決策中遵循哪些價(jià)值觀？如何對(duì)通過(guò)定期評(píng)估和培訓(xùn)確保價(jià)值觀對(duì)齊？

• 勞動(dòng)力結(jié)構(gòu)轉(zhuǎn)型：通過(guò)獨(dú)立完成任務(wù)，智能體系統(tǒng)將極大地改變完成工作的方式，從而有可能讓人類更加專注于需要批判性思維和管理技能的高層次任務(wù)。各業(yè)務(wù)職能部門的角色和職責(zé)將如何轉(zhuǎn)變？如何為員工提供再培訓(xùn)機(jī)會(huì)？是否有新的合作模式可以加強(qiáng)人機(jī)協(xié)作模式？

• 擬人化風(fēng)險(xiǎn)治理：隨著智能體的擬人化程度提升，用戶可能會(huì)產(chǎn)生過(guò)度依賴，或誤以為AI助手完全符合自己的興趣和價(jià)值觀。智能體應(yīng)融入多多少人類特征？可以創(chuàng)建哪些流程來(lái)實(shí)時(shí)檢測(cè)人機(jī)交互中的潛在危害？

麥肯錫最近的《人工智能現(xiàn)狀 》調(diào)查顯示，超過(guò) 72% 的受訪企業(yè)正在部署AI解決方案，而且對(duì)Gen AI的興趣與日俱增。在此背景下，企業(yè)將AI智能體等前沿技術(shù)納入其戰(zhàn)略規(guī)劃和未來(lái)AI路線圖已是大勢(shì)所趨。智能體驅(qū)動(dòng)的自動(dòng)化展現(xiàn)出革命性的潛力，有望以全新行動(dòng)速度重塑工作模式。

盡管如此，這項(xiàng)技術(shù)仍處于早期階段，其全部功能的釋放尚需持續(xù)開(kāi)發(fā)。系統(tǒng)復(fù)雜性和自主性的不斷提高，會(huì)帶來(lái)一系列挑戰(zhàn)和風(fēng)險(xiǎn)。若將AI智能體視為團(tuán)隊(duì)中的“新成員”，正如人類員工需要磨合一樣，企業(yè)在信任智能體獨(dú)立運(yùn)作前，必須投入大量測(cè)試、培訓(xùn)和指導(dǎo)。然而，即便在技術(shù)萌芽期，我們也不難預(yù)見(jiàn)新一代“虛擬同事”可能釋放的廣闊機(jī)遇。

編輯 | Jiaru

清流學(xué)苑2025Q1課程安排

我們也將在3月29~30日在上海推出我們的清流學(xué)苑的新晉課程《關(guān)鍵洞察營(yíng)》，歡迎感興趣的朋友掃碼了解和報(bào)名。

進(jìn)一步交流

進(jìn)入專業(yè)社群展開(kāi)深度討論

慎思行通過(guò)微信等平臺(tái)覆蓋超過(guò)10萬(wàn)戰(zhàn)略人、咨詢?nèi)说雀黝悓I(yè)人士。我們也構(gòu)建了專業(yè)社群，推動(dòng)戰(zhàn)略與咨詢領(lǐng)域的問(wèn)題討論、信息交流和機(jī)會(huì)分享，社群已有超過(guò)5年歷史，并成為了頂尖專業(yè)人士感知市場(chǎng)前沿，獲得實(shí)踐經(jīng)驗(yàn)的首要選擇。入群請(qǐng)?zhí)砑由魉季⑿牛⑻峁┟?/p>

現(xiàn)在微信公眾號(hào)更改規(guī)則，如果你不特地點(diǎn)進(jìn)來(lái)，很可能看不到我們的推送了。希望喜歡【慎思行】的讀者朋友們將本號(hào)【設(shè)為星標(biāo)★】，方便找到我們；也歡迎點(diǎn)擊右下角的【在看】。

＞企業(yè)應(yīng)用AI智能體的前景與現(xiàn)實(shí)

＞AI能幫我們獲得洞察和解決問(wèn)題嗎？

＞AI將如何改變戰(zhàn)略？