導(dǎo)讀:Dify.AI 代表了AI 應(yīng)用開發(fā)普惠化的趨勢
作者 |小葳
圖片來源|攝圖
2025,大模型應(yīng)用進入"投產(chǎn)元年"。
“從去年到現(xiàn)在,我們訪談過很多企業(yè)的CIO、CTO,大家的共識就是 2024 年很多企業(yè)還在 POC 階段,在做大模型的應(yīng)用試點。今年他們會逐步把AI應(yīng)用投向生產(chǎn)。”
近日,Dify.AI 聯(lián)合創(chuàng)始人延君晨表示。作為開源的LLM應(yīng)用開發(fā)平臺,Dify.AI提供從 Agent 構(gòu)建到 AI workflow 編排、RAG 檢索、模型管理等能力,幫企業(yè)構(gòu)建和運營生成式 AI 原生應(yīng)用。
2024年,Dify.AI 被認(rèn)為是增長速度最快的大模型應(yīng)用開發(fā)平臺。目前在GitHub,Dify.AI 旗下的開源項目 Dify 的 star數(shù)超過 88, 000 ,位列全球百大開源項目。不久前歐洲風(fēng)險投資公司Runa Capital評選的全球最熱門20家開源創(chuàng)業(yè)公司榜單中,Dify.AI位列第三。
更難得的是,通過PLG(產(chǎn)品導(dǎo)向的增長)和開源社區(qū)、生態(tài)驅(qū)動的方式,Dify.AI做到用戶遍布全球150多個國家,并實現(xiàn)了收入的持續(xù)正增長。
Dify.AI到底解決了企業(yè)哪些問題?作為初創(chuàng)公司,Dify.AI如何借助亞馬遜云科技實現(xiàn)全球化高速發(fā)展?延君晨向媒體分享了他的觀點。
Dify.AI為什么這么火
延君晨認(rèn)為,當(dāng)前AI從2023年的生成、2024年的推理,正在走向自主執(zhí)行,這一技術(shù)趨勢也推動著大模型應(yīng)用從概念驗證走向生產(chǎn)環(huán)境。
過去兩年,Dify.AI有很多產(chǎn)品功能的迭代,但核心理念一直沒變——提供交互友好的 LLMOps 平臺,既能讓開發(fā)者、社區(qū)用戶用得好,也能幫助企業(yè)更高效推動 AI 應(yīng)用落地,解決AI投產(chǎn)過程中的挑戰(zhàn)。
具體來說,現(xiàn)階段企業(yè)AI應(yīng)用投產(chǎn)面臨三大挑戰(zhàn),這也是Dify.AI錨定的價值點:
第一,通過BaaS后端即服務(wù),大幅加快 POC 過程,解決系統(tǒng)整合復(fù)雜的痛點。
AI真正落地企業(yè),需要跟企業(yè)復(fù)雜業(yè)務(wù)數(shù)據(jù)接口打通,要跟原生平臺或第三方工具打通,導(dǎo)致AI落地周期過長。
Dify.AI采用BaaS后端即服務(wù),即編排出的應(yīng)用都是基于 API 的,同時交互友好,可以很容易地與各種各樣的企業(yè)系統(tǒng)集成。基于Dify 開發(fā)一個應(yīng)用的周期,可以從三個月縮短到3-4周。
某500強生物技術(shù)與醫(yī)療器械公司,將Dify.AI應(yīng)用在客服系統(tǒng),將工單生成與驗證時間從10-20 分鐘縮短至不到 3 分鐘,平均每天可以自動生成約 300 個工單。
第二,通過AI 應(yīng)用全生命周期管理,解決AI應(yīng)用規(guī)模化投產(chǎn)問題。
“77%的POC項目無法遷移到規(guī)模化部署。應(yīng)用構(gòu)建很重要,但是更重要的是之后如何持續(xù)優(yōu)化和運營。圍繞生成式 AI 應(yīng)用全生命周期管理,Dify.AI搭建了分析、監(jiān)控、評估、反饋在內(nèi)的完整Pipeline。”
第三,降低AI開發(fā)門檻,解決企業(yè)缺乏AI人才的痛點。
能夠真正推動企業(yè)AI 落地的一定是復(fù)合型人才,要集AI 產(chǎn)品經(jīng)理、業(yè)務(wù)專家、軟件工程技術(shù)、AI 技術(shù)于一身。絕大部分企業(yè)都不具備這樣的人才和團隊。
Dify.AI通過簡單易用的開發(fā)工具、豐富的插件生態(tài)、友好的交互界面,減輕技術(shù)復(fù)雜性,讓技術(shù)團隊和業(yè)務(wù)團隊都能提升AI開發(fā)效率,解決很多長尾業(yè)務(wù)需求。
某跨境電商企業(yè)基于Dify.AI 在一個月內(nèi)就創(chuàng)建了900 多個AI應(yīng)用,其中活躍應(yīng)用100多個,單次調(diào)用量最高的應(yīng)用達到數(shù)十萬次。其營銷平臺實現(xiàn)了AI 純自動完成了 90% 的任務(wù)創(chuàng)建工作。
此外,模型中立、安全可靠,也是企業(yè)青睞Dify.AI 的重要因素。概括來說,Dify 構(gòu)建了一整套企業(yè)AI應(yīng)用所需的核心技術(shù)棧,開發(fā)者可以聚焦于創(chuàng)造應(yīng)用的核心價值。
云巨頭賦能全球創(chuàng)新
“Dify.AI創(chuàng)業(yè)第一天就面向全球市場提供產(chǎn)品和服務(wù)。所以需要尋求一個全球化的云廠商合作。非常感謝從我們成立之初起,亞馬遜云科技在各個維度的支持與協(xié)作。”
延君晨認(rèn)為,亞馬遜云科技的賦能,讓Dify.AI在性能、成本、安全等方面實現(xiàn)突破:
靈活調(diào)用企業(yè)級LLM。
Dify.AI 專注于應(yīng)用開發(fā),而在模型托管、管理工具方面,亞馬遜云科技成為其重要支撐。
Dify.AI產(chǎn)品原生支持在Amazon Bedrock上調(diào)用Claude、Cohere等大型語言模型和嵌入模型。同時,企業(yè)在Amazon SageMaker上對模型進行微調(diào),也可以無縫銜接到Dify.AI中。
企業(yè)級RAG方案和高效數(shù)據(jù)管理。
基于Amazon OpenSearch,Dify.AI可提供企業(yè)級向量檢索能力,支持RAG,可以將數(shù)據(jù)檢索性能提升30%以上,實現(xiàn)千萬級文檔的實時處理,延遲 <100ms。
■彈性架構(gòu)與成本優(yōu)化。
Dify.AI SaaS版優(yōu)化適配了支持Amazon Graviton的處理器,實現(xiàn)計算成本降低30%,同時性能提升20%。同時,基于Amazon Elastic Kubernetes Service (Amazon EKS) 服務(wù),Dify 企業(yè)版可以實現(xiàn)容器化服務(wù)的自動擴縮容,將并發(fā)處理能力提升4倍。
安全合規(guī)的企業(yè)級AI運行環(huán)境。
Dify.AI 將合規(guī)視為基礎(chǔ)能力,已經(jīng)拿到了三個重量級安全服務(wù)認(rèn)證,包括歐盟的GDPR、 ISO 27001和SOC 2認(rèn)證。
“Dify.AI的很多客戶都是世界 500 強公司,對于安全、數(shù)據(jù)合規(guī)的要求非常高。而與亞馬遜云科技在安全合規(guī)方面的合作,有助于我們進入更多大型企業(yè)的技術(shù)選型范圍。”
■面向全球市場的聯(lián)合市場推廣。
延君晨表示,作為初創(chuàng)公司,與亞馬遜云科技的合作,大幅加速了全球拓展步伐。去年僅Q4,雙方就聯(lián)合舉辦了 35 場市場活動。目前,Dify Enterprise、Dify Premium都已上架亞馬遜云科技Marketplace,精準(zhǔn)觸達了汽車、制造、零售快消、醫(yī)療健康和游戲等多個行業(yè)的逾百家大型客戶。
“我們的 Premium 版本在亞馬遜云科技Marketplace(海外區(qū))上有數(shù)百個訂閱客戶。”
提到在AI生態(tài)中的定位,延君晨表示Dify.AI會堅持開源生態(tài)中立平臺的定位。同時發(fā)揮連接器的價值,一方面連接模型和云,另一方面連接整個亞馬遜云科技生態(tài)內(nèi)的眾多產(chǎn)品與解決方案,最終為給客戶提供完整的端到端的AI 解決方案。
本文為「智能進化論」原創(chuàng)作品。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.