眾所周知，一家企業(yè)的業(yè)務(wù)數(shù)據(jù)繁多，但并非所有數(shù)據(jù)都具有高價(jià)值；因此，企業(yè)若想快速落地生成式AI應(yīng)用，就必須從海量數(shù)據(jù)中篩選出與業(yè)務(wù)最相關(guān)的數(shù)據(jù)，并對(duì)這些數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，以滿足大模型應(yīng)用需要。

2021年底成立的北京靈奧科技，正是聚焦企業(yè)這一業(yè)務(wù)痛點(diǎn)而生。作為一家快速成長(zhǎng)的初創(chuàng)企業(yè)，北京靈奧科技致力于構(gòu)建數(shù)據(jù)管道和大模型中間件，已先后推出了Vanus Connect、Vanus AI和VanChat三款SaaS產(chǎn)品，已經(jīng)累計(jì)服務(wù)全球超過(guò)30000家用戶，并獲得靖亞資本、PNP等機(jī)構(gòu)的多輪融資。

對(duì)于北京靈奧科技這樣一家聚焦人工智能相關(guān)領(lǐng)域的初創(chuàng)企業(yè)來(lái)說(shuō)，選擇一家在云計(jì)算、人工智能、大數(shù)據(jù)領(lǐng)域都有著深厚技術(shù)積淀的合作伙伴，對(duì)于自身的產(chǎn)品研發(fā)和業(yè)務(wù)拓展至關(guān)重要，而亞馬遜云科技無(wú)疑是最佳選擇。

正如北京靈奧科技（Vanus）CEO厲啟鵬所說(shuō)：“亞馬遜云科技提供了眾多使用簡(jiǎn)單、功能強(qiáng)大的云服務(wù)，這是我們合作的基礎(chǔ)。Vanus絕大部分的技術(shù)問(wèn)題，在亞馬遜云科技上都能找到答案，找到相關(guān)的云產(chǎn)品，這些產(chǎn)品能夠增強(qiáng)性能、提升穩(wěn)定性，為我們提供強(qiáng)有力的支撐。”

北京靈奧科技（Vanus）CEO厲啟鵬

從數(shù)據(jù)入手，幫助企業(yè)打通大模型落地瓶頸

目前，數(shù)據(jù)問(wèn)題已成為企業(yè)落地大模型的核心挑戰(zhàn)之一。

厲啟鵬認(rèn)為這一挑戰(zhàn)主要體現(xiàn)在四個(gè)層面：首先，企業(yè)業(yè)務(wù)數(shù)據(jù)類型繁多、格式雜亂且來(lái)源無(wú)法統(tǒng)一，模型需要深入理解企業(yè)多樣化的業(yè)務(wù)數(shù)據(jù)；其次，業(yè)務(wù)數(shù)據(jù)隨著企業(yè)運(yùn)營(yíng)實(shí)時(shí)變化，模型需不斷學(xué)習(xí)不同來(lái)源、持續(xù)變化的業(yè)務(wù)信息；第三，企業(yè)既要讓模型理解好數(shù)據(jù)，又需要做到安全合規(guī)；第四，不同大語(yǔ)言模型由于訓(xùn)練數(shù)據(jù)來(lái)源不同，側(cè)重點(diǎn)有差異，導(dǎo)致模型會(huì)存在偏見，企業(yè)需要評(píng)估不同模型的能力并為不同業(yè)務(wù)場(chǎng)景選擇合適的模型。

針對(duì)這些挑戰(zhàn)，北京靈奧科技決定從大模型中間件入手，幫助企業(yè)解決數(shù)據(jù)問(wèn)題，將大模型優(yōu)勢(shì)和業(yè)務(wù)數(shù)據(jù)無(wú)縫結(jié)合。大模型中間件介于大模型和應(yīng)用之間，可以幫助企業(yè)解決數(shù)據(jù)問(wèn)題，是打通大模型企業(yè)端落地最后一公里，是企業(yè)構(gòu)建AI應(yīng)用的必備組件。

在神經(jīng)網(wǎng)絡(luò)層，北京靈奧科技推出的Vanus Connect可以連接企業(yè)不同的數(shù)據(jù)源，實(shí)時(shí)感知企業(yè)業(yè)務(wù)事件的變化，并推送給神經(jīng)中樞，然后接收神經(jīng)中樞的指令去做執(zhí)行。在神經(jīng)中樞層，北京靈奧科技推出的Vanus AI結(jié)合知識(shí)庫(kù)（向量數(shù)據(jù)庫(kù)）和大模型，可以幫助企業(yè)進(jìn)行業(yè)務(wù)決策。

據(jù)了解，目前北京靈奧科技的大模型中間件可提供Claude 3等多模型選擇，并實(shí)現(xiàn)商品數(shù)據(jù)自動(dòng)同步；此外，還可與網(wǎng)站、釘釘、飛書、企業(yè)微信等第三方應(yīng)用無(wú)縫集成，助力企業(yè)靈活定制機(jī)器人，自定義聊天風(fēng)格、歡迎詞、外感顏色等。比如，VanChat作為基于Vanus AI專門為Shopify店主打造的銷售類AI Agent，既是Shopify店鋪的銷售機(jī)器人，也是消費(fèi)者的AI購(gòu)物助手，可以幫助電商企業(yè)將網(wǎng)站訪客轉(zhuǎn)化成付費(fèi)用戶。

北京靈奧科技在持續(xù)推進(jìn)產(chǎn)品創(chuàng)新的同時(shí)，也在不斷深化與亞馬遜云科技的合作。據(jù)了解，北京靈奧科技整個(gè)平臺(tái)都是基于亞馬遜云科技構(gòu)建，并借助亞馬遜云科技的基礎(chǔ)云服務(wù)、大語(yǔ)言模型、數(shù)據(jù)存儲(chǔ)三類云服務(wù)，為企業(yè)構(gòu)建AI Agent平臺(tái)，以服務(wù)全球數(shù)萬(wàn)家用戶。

強(qiáng)強(qiáng)聯(lián)合推進(jìn)云上創(chuàng)新，助力生成式AI落地

對(duì)于北京靈奧科技來(lái)說(shuō)，亞馬遜云科技不僅提供基礎(chǔ)的云服務(wù)，還提供全方位的技術(shù)服務(wù)，包含技術(shù)方案和架構(gòu)師等，以加速Vanus的產(chǎn)品落地。此外，北京靈奧科技也在借助亞馬遜云科技合作伙伴網(wǎng)絡(luò)（APN）提供的推廣資源和支持，加速產(chǎn)品進(jìn)入市場(chǎng)，助力生成式AI普及。

厲啟鵬認(rèn)為，亞馬遜云科技的優(yōu)勢(shì)主要體現(xiàn)在以下幾個(gè)層面：首先，彈性可擴(kuò)展：利用Amazon Elastic Kubernetes Service（Amazon EKS）基于網(wǎng)絡(luò)流量的彈性擴(kuò)展能力，Vanus AI構(gòu)建的Agent可以根據(jù)用戶業(yè)務(wù)流量平滑彈性伸縮，幫助企業(yè)平均成本降低30%，性價(jià)比提高20%。

其次，提高系統(tǒng)可用性：通過(guò)Amazon DocumentDB原生的3可用區(qū)、6副本的設(shè)計(jì)，提高可用性和可靠性，可以達(dá)到不低于99.99%正常運(yùn)行時(shí)間的服務(wù)等級(jí)協(xié)議（SLA）。

第三，降低回復(fù)延時(shí)：借助Amazon Simple Storage Service（Amazon S3）及數(shù)據(jù)庫(kù)高并發(fā)數(shù)據(jù)查詢能力提高大模型上下文加載時(shí)間，同時(shí)借助亞馬遜云科技全球網(wǎng)絡(luò)節(jié)點(diǎn)加速能力，整體將Agent回復(fù)系統(tǒng)延時(shí)降低40%。

第四，推理能力強(qiáng)：通過(guò)Amazon Bedrock提供的Claude模型，為Vanus平臺(tái)的AI Agent提供非常強(qiáng)的語(yǔ)言理解和邏輯推理能力。

在國(guó)內(nèi)某ERP企業(yè)，各部門沉淀大量?jī)?nèi)部數(shù)據(jù)，但是跨部門知識(shí)共享效率低，需花費(fèi)大量時(shí)間對(duì)客服進(jìn)行培訓(xùn)；同時(shí)，客服人員基于傳統(tǒng)搜索方式獲取知識(shí)，響應(yīng)時(shí)間長(zhǎng)導(dǎo)致用戶的投訴率較高。

為此，Vanus基于Amazon S3、數(shù)據(jù)庫(kù)等云服務(wù)，幫助用戶從文檔、數(shù)據(jù)庫(kù)、SaaS軟件等多個(gè)數(shù)據(jù)源中實(shí)時(shí)抽取數(shù)據(jù)，構(gòu)建統(tǒng)一的企業(yè)知識(shí)庫(kù)；并借助Amazon Bedrock等服務(wù)，為企業(yè)客服人員構(gòu)建AI Copilot，基于全域業(yè)務(wù)數(shù)據(jù)實(shí)時(shí)推理，為客服人員秒級(jí)提供回復(fù)建議，將問(wèn)題回復(fù)時(shí)間從分鐘級(jí)降至秒級(jí)，將客服團(tuán)隊(duì)的人效提高70%，大大降低了客服成本。

在南美某服飾電商企業(yè)，每天都有大量產(chǎn)品、退換貨、物流等問(wèn)題咨詢，不僅需要大量客服人員，客服的響應(yīng)速度也會(huì)影響客戶滿意度。為此，Vanus通過(guò)基于Amazon Bedrock、Amazon S3等云服務(wù)為Shopify電商客戶構(gòu)建客服類Agent VanChat，為網(wǎng)站購(gòu)物者提供7*24小時(shí)即時(shí)問(wèn)題回復(fù)，為企業(yè)節(jié)省大量人力資源，提高客戶滿意度；同時(shí)，VanChat提供的用戶意圖識(shí)別、產(chǎn)品推薦等功能，也加速用戶產(chǎn)品購(gòu)買，提升網(wǎng)站的銷售額。

接下來(lái)，伴隨著生成式AI的加速普及，北京靈奧科技也將進(jìn)一步深化與亞馬遜云科技的合作，尤其是在數(shù)據(jù)庫(kù)、大模型等領(lǐng)域的合作，在支撐企業(yè)產(chǎn)品創(chuàng)新的同時(shí)，探索更多的生成式AI應(yīng)用，幫助企業(yè)解決在生成式AI應(yīng)用中的各種數(shù)據(jù)問(wèn)題，進(jìn)一步釋放生成式AI的生產(chǎn)力。