現在AI模型很多,我曾經就分享過產品經理還是停留在API調用上,都沒有親自去在AI模型的參數、研發上做自己的二次開發。
因為我帶著團隊正在完成云木鳥新媒體伴侶的AI公眾號排版,所以我們就選了一個能夠支持若干API對接的AI模型管理工具:dify
也就是這段時間我幾乎花了一周的時間來完成dify的部署、知識庫訓練以及任務流的搭建,還在進行中。
上面我分享過6個AI模型管理工具,這些模型工具是開源的,針對對話、企業開發、以及個人知識庫的使用,有各自的擅長點。
如果一點都沒有開發能力,想簡單粗糙的使用那么就使用anythingllma即可,傻瓜即可用,但是無法二次開發。
作為產品經理顯然是要開發的,那么就離不開API接入了,比如現在支持如下對話型應用API,就是DIfy支持的接口調用與監控。包括還有各類Wikipedia手冊支持調試。
而如果要完成自己的開發,我們選擇DIFY,還有一個重要原因是其開源的外,每個封裝的應用都支持各類API的接入以及配套的開發與調試套件。
DIFY提供了每個AI應用的日志監控與標注,方便隨時了解自己組件的agent應用能力的使用情況與并發數,做好數據分析。
比如我們創建的公眾號排版agent,就可以用dify作為基座來完成排版,這些公眾號排版的格式本身就是一堆HTML和CSS,所以就可以自己先利用dify實現公眾號編排,再將這個機器人封裝為API提供給我們的系統即可使用。
而產品經理除了設計其產品原型設計,還有設計任務以及提示詞,才能夠完成機器人可以用。
只有當agent可用了之后,才能說可以將其封裝成一個API給到自己系統進行集成
并在dify創建的時候,除了多個類型的應用可以選擇,從最簡單的工作流、到agent、到其他工具,每一個都可以作為一個單獨的API進行封裝。
如上我用chatflow搭建了一個知識庫工作流,其中AI模型的處理節點與知識庫工作內容都可以用以dify為基礎開始建設。
在DIFY,我們可以放心的創建自己工作流程,這種AI任務工作流程是可以支持若干外部工具的以及自己企業應用調用
工具調用幾乎能夠實現其他工具調用,從文字轉聲音到聲音轉文字都支持
使用DIFY之前,是需要你要有這樣的模型,比如我們這里有聲音轉文字的模型,因為我還沒有下載,所以無法選擇。
本地化部署dify就需要相當多的顯存可以使用,從現在的模型來看,要想使用DEEPSEEK V3、R1、以及llama或阿里同義千問至少要準備1TB的顯存才可以使用,而現在在顯卡如此昂貴的情況下這個還是有限制。
從科研的成本來看,調用API是最快的,但是也不最佳選擇。加上如果像我們這樣做醫療方面,數據的安全性也更加重要,所以API并不合適。
API的調用就涉及到對這些API進行付費,當然現在也有聚合的API的方式,但是要想分類調用模型就不太現實了。
Dify的測試,就是AI產品模型需求測試
在Dify里面有若干的測試參數選項,如下是這些參數的選擇
這些都是我們可以針對其AI模型的參數進行調整,讓AI產品經理即使不會Python開發,也能夠手動微調模型。
后續會單獨針對這些參數的配置分享我們在做產品設計中的技巧。
目前Dify支持多個工具的應用創建,包括聊天助手、流程、機器人、多個機器人的方式。
工具從通用的到進階用戶,學習dify的各個工具使用,還要關系到提示詞的使用,可以配置其中的關鍵詞與輸入內容。
如下是模型設置,有多個參數可以選擇,可以讓其任務流的控制更加精準
在dify上我們可以支持調用查詢、對話、用戶ID以及文件等若干屬性來完成任務流的創建,相比直接粗的文本輸入,精細化的變量參數更加可以控制模型的生產力。
用Dify和直接用原型做AI產品設計的區別
可以這么說,Dify是AI產品經理的模型需求內核,配裝構建出能夠使用的AI任務流以及AI模型機制,才能夠說界面與交互長什么樣子。
而界面長什么樣子并不困難,這都是前端工作,而讓AIagent實現對應的結果,除了配置任務流還有提示工程、還有知識庫都需要進行建設。
產品經理的工作就變得非常具體了。
Dify支持市面上眾多的開源或閉源模型,這種建設框架其實也是AI產品經理要推崇的,也就是不管你AI模型是哪一個,我的產品框架不變,更換API即可,從而不影響我的用戶使用。
而要訓練成為這種產品設計框架,dify的配置與應用的創建必不可少。
今天的分享就在這里
“關注我,一個產品經理的創業故事”
每日案例拆解庫,AI等產品打卡群
我創建的產品設計打卡社群,加入后365天,每天體驗一款APP。提升產品設計能力,同時有1300份體驗報告幫助你找到競品。
在這里你可以隨時查詢到你想找的各類競品行業APP,無須自己親自下載就可以馬上得到APP的一手產品優化、交互設計、功能描述信息。
從優化&建議、商業模式、運營、功能描述、交互設計、產品定位至少6個維度,體驗一款應用。
平均1天1塊錢,掃碼購買即可加入
連續體驗48款應用,通過后原路退回
報名后添加星球助理
PMTalk123
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.