5月15日,2024春季火山引擎FORCE原動(dòng)力大會(huì)在北京正式舉辦。會(huì)上正式發(fā)布了字節(jié)跳動(dòng)豆包大模型家族、火山方舟2.0、AI應(yīng)用及AI云基礎(chǔ)設(shè)施等最新產(chǎn)品。
火山引擎總裁 譚待
火山引擎總裁譚待表示,企業(yè)要做好大模型落地,面臨模型效果、推理成本、落地難度的三大關(guān)鍵挑戰(zhàn):既要有好的基礎(chǔ)大模型做支撐,解決復(fù)雜難題,也要有低成本的推理服務(wù)讓大模型被廣泛應(yīng)用,還要更多工具、平臺(tái)和應(yīng)用幫助企業(yè)做好場(chǎng)景落地。
豆包大模型首次亮相 大使用量打磨好模型
模型效果是AI落地最關(guān)鍵的挑戰(zhàn)。譚待指出,只有大的使用量,才能打磨出好模型。目前,豆包大模型日均處理1,200億tokens文本、生成3,000萬張圖片。
為助力企業(yè)做好大模型場(chǎng)景落地,字節(jié)跳動(dòng)自主研發(fā)的豆包大模型將通過火山引擎正式對(duì)外提供服務(wù),企業(yè)可根據(jù)自身業(yè)務(wù)場(chǎng)景需求靈活選擇、快速落地:
豆包通用模型pro:字節(jié)跳動(dòng)自研LLM模型專業(yè)版,支持128k長(zhǎng)文本,全系列可精調(diào),具備更強(qiáng)的理解、生成、邏輯等綜合能力,適配問答、總結(jié)、創(chuàng)作、分類等豐富場(chǎng)景;
豆包通用模型lite:字節(jié)跳動(dòng)自研LLM模型輕量版,對(duì)比專業(yè)版提供更低token 成本、更低延遲,為企業(yè)提供靈活經(jīng)濟(jì)的模型選擇;
豆包·角色扮演模型:個(gè)性化的角色創(chuàng)作能力,更強(qiáng)的上下文感知和劇情推動(dòng)能力,滿足靈活的角色扮演需求;
豆包·語(yǔ)音合成模型:提供自然生動(dòng)的語(yǔ)音合成能力,善于表達(dá)多種情緒,演繹多種場(chǎng)景;
豆包·聲音復(fù)刻模型:5秒即可實(shí)現(xiàn)聲音1:1克隆,對(duì)音色相似度和自然度進(jìn)行高度還原,支持聲音的跨語(yǔ)種遷移;
豆包·語(yǔ)音識(shí)別模型:更高的準(zhǔn)確率及靈敏度,更低的語(yǔ)音識(shí)別延遲,支持多語(yǔ)種的正確識(shí)別;
豆包·文生圖模型:更精準(zhǔn)的文字理解能力,圖文匹配更準(zhǔn)確,畫面效果更優(yōu)美,擅長(zhǎng)對(duì)中國(guó)文化元素的創(chuàng)作;
豆包·Function call模型:提供更加準(zhǔn)確的功能識(shí)別和參數(shù)抽取能力,適合復(fù)雜工具調(diào)用的場(chǎng)景;
豆包·向量化模型:聚焦向量檢索的使用場(chǎng)景,為 LLM 知識(shí)庫(kù)提供核心理解能力,支持多語(yǔ)言。
譚待介紹,早在去年,豆包大模型(原名:云雀)就在字節(jié)跳動(dòng)內(nèi)部完成了上線,也是首批通過大模型服務(wù)安全備案的大模型之一。字節(jié)跳動(dòng)內(nèi)部50多個(gè)業(yè)務(wù)已經(jīng)大量使用豆包大模型進(jìn)行AI創(chuàng)新,包括抖音、頭條等數(shù)億DAU產(chǎn)品。基于豆包大模型同名打造的豆包APP,在蘋果APP Store和各大安卓應(yīng)用市場(chǎng),豆包APP的下載量在AIGC類應(yīng)用中排名第一*。
*數(shù)據(jù)來源:QuestMobile
字節(jié)跳動(dòng)產(chǎn)品和戰(zhàn)略副總裁 朱駿
字節(jié)跳動(dòng)產(chǎn)品和戰(zhàn)略副總裁朱駿介紹了字節(jié)跳動(dòng)基于豆包大模型打造AI原生應(yīng)用的產(chǎn)品理念。他表示,技術(shù)在快速演化,但用戶核心的需求沒有改變,比如高效獲取信息的需求、工作提效的需求、自我表達(dá)的需求、社交娛樂的需求等。字節(jié)跳動(dòng)做了很多學(xué)習(xí)和探索,希望找到適合的大模型應(yīng)用形態(tài),以自然的交互形式服務(wù)用戶,走入更多人的生活和工作。
豆包APP是字節(jié)跳動(dòng)重點(diǎn)投入的大模型應(yīng)用,據(jù)朱駿透露,豆包平臺(tái)月度活躍用戶達(dá)到2,600萬,已有超過800萬個(gè)智能體被創(chuàng)建。
豆包大模型在服務(wù)字節(jié)內(nèi)部的同時(shí),也在與火山引擎的眾多企業(yè)客戶合作共創(chuàng)。譚待認(rèn)為,企業(yè)在不同業(yè)務(wù)場(chǎng)景中,需要不同特點(diǎn)的模型,從而實(shí)現(xiàn)最佳效果和性價(jià)比。為此,豆包大模型提供的是一個(gè)多模態(tài)模型家族,企業(yè)可根據(jù)自身業(yè)務(wù)場(chǎng)景需求靈活選擇,實(shí)現(xiàn)模型使用及成本控制的正循環(huán)。
人人用得起 才是好模型
譚待認(rèn)為,降低成本是推動(dòng)大模型快進(jìn)到“價(jià)值創(chuàng)造階段”的一個(gè)關(guān)鍵因素。豆包主力模型在企業(yè)市場(chǎng)的定價(jià)只有0.0008元/千 tokens,0.8厘就能處理1,500多個(gè)漢字,比行業(yè)便宜99.3%。
以豆包通用模型pro-32k版為例,模型推理輸入價(jià)格僅為0.0008元/千 tokens。而市面上同規(guī)格模型的定價(jià)一般為0.12元/千 tokens,是豆包模型價(jià)格的150倍。大模型價(jià)格,進(jìn)入“厘時(shí)代”。
譚待表示,大模型“卷”價(jià)格,將助力企業(yè)以更低成本加速業(yè)務(wù)創(chuàng)新。
方舟2.0升級(jí) 推進(jìn)大模型價(jià)值創(chuàng)造
去年,火山引擎發(fā)布了一站式大模型服務(wù)平臺(tái)火山方舟,希望通過模型即服務(wù)的理念,幫助企業(yè)在高效、安全的環(huán)境里應(yīng)用各類模型。今年,火山引擎對(duì)方舟平臺(tái)進(jìn)行了全面升級(jí),升級(jí)后的火山方舟2.0將大幅提升模型效果、核心插件、系統(tǒng)性能以及平臺(tái)體驗(yàn),幫助企業(yè)推進(jìn)大模型的價(jià)值創(chuàng)造。
在插件和工具鏈上,方舟2.0升級(jí)了聯(lián)網(wǎng)插件,提供頭條抖音同款搜索能力,實(shí)時(shí)連接海量?jī)?yōu)質(zhì)數(shù)據(jù),同時(shí)使用文本、圖像、語(yǔ)音等多模態(tài)交互方式,并通過業(yè)內(nèi)領(lǐng)先的意圖識(shí)別能力,大幅提升模型的信息獲取能力;升級(jí)內(nèi)容插件,提供頭條抖音同源海量?jī)?nèi)容,支持多模態(tài)交互,提供基于意圖的垂類內(nèi)容信息檢索,內(nèi)容時(shí)效檢索更強(qiáng),幫助大模型深入理解、檢索和生成內(nèi)容;升級(jí)知識(shí)庫(kù)插件,提供毫秒級(jí)百億規(guī)模的高性能檢索,秒級(jí)流式知識(shí)庫(kù)索引更新,內(nèi)嵌豆包向量化模型,提高搜索的相關(guān)性和準(zhǔn)確性。
除以上核心插件升級(jí)之外,火山方舟2.0也全面升級(jí)了系統(tǒng)承載能力、安全防護(hù)能力和算法服務(wù)能力。在系統(tǒng)承載力上,提供充沛的GPU算力資源,分鐘級(jí)千卡擴(kuò)縮容的超強(qiáng)彈性,保障業(yè)務(wù)穩(wěn)定和成本可控;在安全防護(hù)上,通過安全沙箱構(gòu)建可信的執(zhí)行環(huán)境,多維度的安全架構(gòu),保障數(shù)據(jù)安全;此外,火山引擎提供專業(yè)的算法團(tuán)隊(duì)服務(wù),幫助客戶釋放獨(dú)有數(shù)據(jù)價(jià)值,讓企業(yè)大模型應(yīng)用輕松落地。
扣子產(chǎn)品經(jīng)理 潘宇揚(yáng)
除了好的模型效果、便捷的插件、強(qiáng)勁的系統(tǒng)性能,還需要提供簡(jiǎn)單易用開發(fā)平臺(tái),才能讓所有人都能成為 AI 應(yīng)用的開發(fā)者。扣子產(chǎn)品經(jīng)理潘宇揚(yáng)介紹,扣子(coze)作為字節(jié)跳動(dòng)推出的新一代AI應(yīng)用開發(fā)平臺(tái),具備低門檻、個(gè)性化、實(shí)時(shí)性、多模態(tài)等優(yōu)勢(shì),并集合海量的AI資源、豐富的發(fā)布渠道、一鍵自定義API服務(wù),幫助填補(bǔ)大模型到用戶場(chǎng)景的最后一公里。
火山引擎正式發(fā)布了扣子專業(yè)版。扣子專業(yè)版在扣子可視化靈活編排智能體的能力基礎(chǔ)上,進(jìn)一步提供企業(yè)級(jí)SLA和多種高級(jí)特性,使AI應(yīng)用更易落地,讓企業(yè)更專注于通過智能體創(chuàng)新,驅(qū)動(dòng)業(yè)務(wù)增長(zhǎng)。
譚待表示,火山引擎致力于成為AI時(shí)代最開放和領(lǐng)先的云服務(wù)平臺(tái)。全新升級(jí)的火山方舟2.0將通過更強(qiáng)性能、更優(yōu)插件、更好服務(wù)以及安全可信方案,助力大模型應(yīng)用落地。
廣泛落地實(shí)踐 多行業(yè)結(jié)出碩果
豆包大模型和火山方舟2.0目前已經(jīng)在金融、汽車、智能終端、電商零售、教育科研等多個(gè)行業(yè)實(shí)踐落地。招商銀行、海底撈火鍋、超級(jí)猩猩、攜程旅游、飛常準(zhǔn)、獵聘等企業(yè)也已經(jīng)在扣子上搭建了智能體。復(fù)旦大學(xué)、浙江大學(xué)等名校也為課程和實(shí)驗(yàn)搭建了“AI 助教”。
招商銀行數(shù)字金融發(fā)展辦公室主任 高旭磊
作為金融行業(yè)AI轉(zhuǎn)型的踐行者,招商銀行正在智能外呼、數(shù)字人、智能數(shù)據(jù)助理等上百個(gè)AI服務(wù)場(chǎng)景探索和投入。招商銀行數(shù)字金融發(fā)展辦公室主任高旭磊表示,大模型將為銀行全鏈條業(yè)務(wù)帶來改造和升級(jí)。攜手火山引擎,雙方將共建大模型應(yīng)用場(chǎng)景及高性能基礎(chǔ)設(shè)施,改造現(xiàn)有系統(tǒng)和產(chǎn)品,催生大量以 AI 為核心的智能體應(yīng)用。
蒙牛集團(tuán)副總裁、首席數(shù)智官 李琤潔
蒙牛集團(tuán)副總裁、集團(tuán)首席數(shù)智官李琤潔從生產(chǎn)工具進(jìn)化、生產(chǎn)方式進(jìn)化、組織方式進(jìn)化的三個(gè)方面介紹了蒙牛集團(tuán)的數(shù)智化歷程。蒙牛集團(tuán)正與火山引擎合作夯實(shí)技術(shù)底座,并構(gòu)建了AI營(yíng)養(yǎng)專家、AI育嬰師、AI數(shù)據(jù)分析師、產(chǎn)品創(chuàng)新助手、熱點(diǎn)創(chuàng)意助手等智能體矩陣,提升前端消費(fèi)者體驗(yàn),助力后端運(yùn)營(yíng)人員決策。
智能終端大模型聯(lián)盟發(fā)布
會(huì)上,火山引擎與OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯(lián)盟。OPPO小布助手、榮耀MagicBook的YOYO助理、小米“小愛同學(xué)”、華碩筆記本電腦的豆叮AI助手等應(yīng)用,均已接入火山引擎的大模型服務(wù)。
汽車大模型生態(tài)聯(lián)盟發(fā)布
同時(shí),火山引擎聯(lián)合中國(guó)電動(dòng)汽車百人會(huì)與吉利汽車、長(zhǎng)城汽車、捷途汽車、賽力斯、智己汽車等20余家廠商,宣布成立汽車大模型生態(tài)聯(lián)盟,致力于探索新一代人車交互新形態(tài),提升汽車全場(chǎng)景AI新體驗(yàn)。
兩大聯(lián)盟企業(yè)OPPO和捷途汽車也分別就自身的大模型實(shí)踐進(jìn)行了分享:
OPPO智能助理部部長(zhǎng)、小布助手首席架構(gòu)師 萬玉龍
OPPO智能助理部部長(zhǎng),小布助手首席架構(gòu)師萬玉龍分享了OPPO AI手機(jī)的大模型應(yīng)用實(shí)踐,他表示,目前小布助手已經(jīng)覆蓋3.5億終端設(shè)備,月活躍用戶數(shù)超1.5億。在火山方舟上,OPPO通過意圖識(shí)別大模型、聯(lián)網(wǎng)總結(jié)大模型、個(gè)性化人物大模型和豆包大模型構(gòu)建了通用問答、伶俐小妹、面試官等智能體,為終端用戶帶來了全新的AI體驗(yàn)。
捷途汽車數(shù)字化負(fù)責(zé)人 劉航
捷途汽車數(shù)字化負(fù)責(zé)人劉航表示,捷途汽車希望通過大模型擴(kuò)大自身服務(wù)能力、洞察用戶真實(shí)需求,進(jìn)而提升銷售效率和能力。攜手火山引擎,雙方圍繞客服場(chǎng)景進(jìn)行了共創(chuàng),所打造的智慧客服AI小捷,在節(jié)省人力的同時(shí),還能幫助客服人員快速獲取信息,服務(wù)客戶。未來,捷途汽車還希望通過大模型進(jìn)一步實(shí)現(xiàn)座艙、決策、營(yíng)銷的智能化升級(jí)。
多款A(yù)I應(yīng)用發(fā)布 快速落地開箱即用
除大模型服務(wù)平臺(tái)以外,AI應(yīng)用也是火山引擎全棧AI服務(wù)的關(guān)鍵組成。
去年,火山引擎提出了企業(yè)數(shù)智化升級(jí)新模式——數(shù)據(jù)飛輪,該模式以數(shù)據(jù)消費(fèi)為核心驅(qū)動(dòng)力,使企業(yè)數(shù)據(jù)流充分融入業(yè)務(wù)流,實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)和業(yè)務(wù)應(yīng)用的飛輪效應(yīng)。為了讓企業(yè)數(shù)據(jù)消費(fèi)更普惠、更便捷,火山引擎智能數(shù)據(jù)洞察DataWind 正式發(fā)布AI助手ChatBI,用戶可通過自然語(yǔ)言交互生成指標(biāo),用于圖表制作、數(shù)據(jù)查詢,還可進(jìn)行深度數(shù)據(jù)分析,且ChatBI支持IM交互,可多端應(yīng)用,隨時(shí)隨地自助分析,這將大幅降低數(shù)據(jù)消費(fèi)門檻,提升讀數(shù)、用數(shù)效率,為數(shù)據(jù)飛輪加速運(yùn)轉(zhuǎn)提供動(dòng)力。
面向營(yíng)銷場(chǎng)景,火山引擎進(jìn)行了智能創(chuàng)作云2.0的升級(jí),成為從內(nèi)容創(chuàng)作、矩陣分發(fā)、廣告投放到數(shù)據(jù)洞察一站式的企業(yè)內(nèi)容營(yíng)銷增長(zhǎng)方案;不僅提供多模態(tài)的理解與生成能力,助力視頻創(chuàng)作效率提升25倍,更上線抖音話題、POI、小程序等營(yíng)銷工具,使門店頁(yè)面曝光提升600%。目前已經(jīng)有3,000+企業(yè)在火山引擎開啟AIGC視頻營(yíng)銷增長(zhǎng)。
面向銷售場(chǎng)景,火山引擎發(fā)布了銷售AI助手Sales Copilot,能夠高效跟進(jìn)客戶需求,隨時(shí)輔助銷售解答復(fù)雜的產(chǎn)品問題。此外,它還能通過角色扮演的方式模擬不同風(fēng)格的對(duì)客演練,并提供優(yōu)秀話術(shù)學(xué)習(xí),提升銷售溝通質(zhì)量。
火山引擎一直致力于構(gòu)建開放共享的生態(tài)理念,自2021年發(fā)布萬有計(jì)劃以來,已經(jīng)幫助100+家SaaS企業(yè)實(shí)現(xiàn)了業(yè)務(wù)增長(zhǎng),實(shí)現(xiàn)近萬單客戶簽約。豆包企服聯(lián)盟,是萬有計(jì)劃針對(duì)大模型落地的專項(xiàng)計(jì)劃。萬有計(jì)劃·豆包企服聯(lián)盟將提供一攬子支持規(guī)劃,幫助SaaS企業(yè)實(shí)現(xiàn)AI升級(jí),為行業(yè)客戶提供更多開箱即用的AI應(yīng)用。
AI 基礎(chǔ)設(shè)施再升維 云端算力可靠保障
大模型時(shí)代,集群管理復(fù)雜度、網(wǎng)絡(luò)性能、穩(wěn)定性是云基礎(chǔ)的關(guān)鍵挑戰(zhàn)。為應(yīng)對(duì)上述挑戰(zhàn),火山引擎基于內(nèi)外共池的資源規(guī)模優(yōu)勢(shì)和內(nèi)部實(shí)踐,圍繞大集群建設(shè)、管理、性能優(yōu)化、穩(wěn)定性保障提供了一套業(yè)界領(lǐng)先的解決方案。
NVIDIA解決方案和工程副總裁 賴俊杰
會(huì)上,火山引擎正式發(fā)布veOmniverse,基于NVIDIA Omniverse為企業(yè)、開發(fā)者提供全新的云上開發(fā)平臺(tái),助力企業(yè)與開發(fā)者在互聯(lián)的虛擬世界中,圍繞工作流程展開高效的設(shè)計(jì)和協(xié)作,探索和打造智能逼真的虛擬世界。
除為客戶提供高穩(wěn)定性和高性能的云基礎(chǔ)設(shè)施外,面對(duì)本地部署需求,火山引擎也全新發(fā)布了混合云veStack智算版,具有萬卡集群組網(wǎng),3.2T高性能無損網(wǎng)絡(luò)的超大規(guī)模優(yōu)勢(shì);端到端工程化所支撐的極致性能,能夠?qū)崿F(xiàn)97.78%訓(xùn)練加速比和分鐘級(jí)故障發(fā)現(xiàn)和自愈;擁有多元異構(gòu)能力,可適配十余種GPU,支持主流國(guó)產(chǎn)化GPU。
完整的AI應(yīng)用除GPU負(fù)責(zé)的密集計(jì)算外,存量CPU負(fù)載也需要持續(xù)降本增效,保障業(yè)務(wù)輕裝上陣,加速創(chuàng)新。從計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、運(yùn)維4個(gè)層面,火山引擎全力支持客戶云上業(yè)務(wù)穩(wěn)定運(yùn)營(yíng)。
從技術(shù)創(chuàng)新到商業(yè)落地,大模型已經(jīng)為各行業(yè)的AI轉(zhuǎn)型提供了強(qiáng)大的動(dòng)能。火山引擎基于字節(jié)跳動(dòng)在大模型領(lǐng)域的實(shí)踐沉淀,通過大使用量打磨出好模型,以技術(shù)驅(qū)動(dòng)的極致性價(jià)比讓大模型人人用得起,通過各行業(yè)豐富的落地經(jīng)驗(yàn)與算法服務(wù)陪伴客戶一起成長(zhǎng)。未來,火山引擎全棧AI服務(wù)將持續(xù)助力企業(yè)AI轉(zhuǎn)型落地,激發(fā)業(yè)務(wù)增長(zhǎng)潛能。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.