今天凌晨,OpenAI全資收購io的消息占據了大部分頭條。同時OpenAI也“悄悄地”放出了另外一個重磅消息,用于開發智能體的核心API——Responses API支持MCP服務。
傳統方法,我們在開發智能體需要通過函數調用與外部服務交互,每次操作都涉及從大模型到后端再到外部服務的網絡傳輸,導致多次跳轉、延遲會很高,并增加擴展和管理的復雜性。
現在Responses API支持了MCP,開發者無需為每個函數調用手動連接特定服務,而是可以將模型配置為指向一個或多個MCP服務。
Responses API支持MCP
自OpenAI發布Responses API以來,已有數十萬開發人員通過該API處理了數萬億token數據,并開發了各種各樣的智能體應用,包括Zencoder的編碼智能體、Revi 用于私募股權和投資銀行的市場智能體,以及 MagicSchool AI的教育智能體。
為了進一步簡化智能體開發,Responses API支持了MCP服務,開發人員只需幾行代碼即可將智能體連接到強大的外部工具和服務。
例如,只需要9行代碼,就能將你的智能體鏈接到電商平臺Shopify。
在過去,我們需要編寫自定義cart_add或create_payment_link包裝器并托管自己的中繼服務器。現在全部簡化了,一個指向輕松搞定。
只用了13行代碼將智能體連接到云通信平臺Twilio。而之前,需要在你的后端中整合兩個工具調用,并自行批處理最終的短信負載。
支持MCP后,還有一個好處就是可以集中管理工具,使得智能體能夠高效地調用外部服務。我們可以使用allowed_tools 參數精確控制智能體能夠訪問的工具,從而避免不必要的工具調用、上下文膨脹以及縮短響應時間。
例如,在處理用戶查詢時,智能體可以根據預設的規則選擇最合適的工具進行調用,而不是盲目地嘗試所有可能的工具。
在使用MCP時,還可以通過精確的權限控制確保智能體的安全性。例如,可以限制智能體只能調用某些特定的工具,或者在調用工具時需要顯式批準。這種權限控制機制不僅防止了智能體濫用工具,還保護了外部服務的安全性。
通過在每次調用中傳遞授權密鑰和服務器 URL,MCP確保了身份驗證和授權的安全性,同時避免了敏感信息在響應對象中的泄露。
此外,MCP支持動態工具列表的導入和緩存機制。當智能體首次連接到一個MCP服務器時,會從服務器導入工具列表,并將其緩存到模型上下文中。在后續的調用中,智能體可以直接使用緩存的工具列表,而無需再次從服務器獲取,從而減少了延遲并提高了響應速度。
當然,支持MCP后還有很多其他好處,這里就不列舉了,有興趣的小伙伴可以自己去嘗試一下,或者參加「AIGC開放社區」在線下舉辦的MCP公開課,為大家真實演示一下。
Responses API其他新增功能
除了支持MCP外,OpenAI 還對Responses API 中的圖像生成、Code Interpreter 和文件搜索工具進行了重大更新,進一步增強了智能體的功能。
圖像生成:開發者現在可以在Responses API 中直接訪問 OpenAI 的最新圖像生成模型(如 ),并將其作為工具使用。該工具支持實時流傳輸,允許開發者在圖像生成過程中查看預覽,并支持多輪編輯,使開發者能夠逐步精細調整圖像。
Code Interpreter:Code Interpreter 工具現在可以在 Responses API 中使用,支持數據分析、解決復雜的數學和編碼問題,甚至幫助模型深入理解和操作圖像。例如,在處理數學問題時,模型可以利用 Code Interpreter 運行代碼來得出答案,從而顯著提升性能。
文件搜索:文件搜索工具得到了增強,允許開發者根據用戶查詢將文檔中的相關內容塊提取到模型的上下文中。此外,該工具還支持跨多個向量存儲執行搜索,并允許使用數組進行屬性過濾。
同時OpenAI也在Responses API引入了全新的功能。
后臺模式:對于需要較長時間處理的任務,開發者可以使用后臺模式異步啟動這些任務,而無需擔心超時或其他連接問題。開發者可以通過輪詢這些任務來檢查是否完成,或者在需要時開始流式傳輸事件。
推理摘要:Responses API 現在可以生成模型內部思維鏈的簡潔自然語言摘要。這使得開發者更容易調試、審計和構建更好的最終用戶體驗。
加密推理項:符合零數據保留(ZDR)條件的客戶可以在 API 請求之間重復使用推理項,而無需將任何推理項存儲在 OpenAI 的服務器上。這不僅提高了智能性,還減少了標記使用量,降低了成本和延遲。
本文素材來源OpenAI,如有侵權請聯系刪除
報告下載
大 佬觀點分享
關于RPA、AI、企業數字化轉型
(點擊文字即可閱讀)
| |
| | |
| | |
| | |
| |
行業知識交流分享,結識擴展人脈圈層
公眾號后臺回復【RPA】或者【流程挖掘】
可受邀加入相關的交流群
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.