在2024年的當(dāng)下，AIGC深遠(yuǎn)地影響了新工業(yè)革命，并且飛入尋常百姓家，觸達(dá)生活的方方面面，小到出行路線安排，購物選擇、社交軟件興趣熱點(diǎn)推送，大到自動(dòng)駕駛、智能制造等等都能窺見它的身影。

從技術(shù)發(fā)展到落地應(yīng)用，AIGC大模型向前一路狂奔。但細(xì)分、個(gè)性化的需求越來越多，大模型難以與行業(yè)進(jìn)行更深度的融合；應(yīng)用場景有限，效果參差不齊，高質(zhì)量訓(xùn)練數(shù)據(jù)缺少，龐大的前期投入都讓越來越多成本敏感的中小企業(yè)望而卻步。在這樣的需求推動(dòng)下，實(shí)現(xiàn)高性能與高性能的小而精的行業(yè)垂直模型更受青睞。

那么相較于大模型，行業(yè)垂直模型的有哪些優(yōu)勢呢？

首先在于它的規(guī)模體量小，相較于動(dòng)輒投入萬卡GPU集群規(guī)模的高昂成本的大模型，它所需投入的計(jì)算資源更少。與大模型說追求的廣而大的功能覆蓋，小模型更能深度聚焦一個(gè)領(lǐng)域，打通痛點(diǎn)需求環(huán)節(jié)。同時(shí)它體量小，意味著它的硬件資源少，部署輕松，門檻低。無論是云還是邊緣應(yīng)用場景，小模型都能夠游刃有余。

第二在于其能夠接受定制。小模型最初的目的就在于更好的滿足客戶個(gè)性化的需求。通過特定的行業(yè)數(shù)據(jù)優(yōu)化以及學(xué)習(xí)，它能夠提供更為精準(zhǔn)、個(gè)性化的解決方案，解決實(shí)際業(yè)務(wù)中遇到的問題。比如優(yōu)化供應(yīng)鏈中的管理，或提升客戶服務(wù)質(zhì)量，減少響應(yīng)時(shí)間，抑或是為商業(yè)決策提供個(gè)性化的咨詢或者收益更高的建議。

第三在于響應(yīng)迅速。由于小模型的所需參數(shù)量少，訓(xùn)練成本低，訓(xùn)練時(shí)間短，因此小模型可以快速響應(yīng)市場需求，進(jìn)行調(diào)整迭代升級，能為企業(yè)創(chuàng)造更多的商業(yè)機(jī)會(huì)，這種敏捷的能力遠(yuǎn)遠(yuǎn)超過大模型。

目前，垂直行業(yè)模型在多個(gè)領(lǐng)域都得到了廣泛應(yīng)用，但明顯向支付意愿更高、數(shù)字化程度高、商業(yè)化應(yīng)用場景潛在價(jià)值高的行業(yè)靠攏，例如金融、電商、教育和醫(yī)療領(lǐng)域，這幾個(gè)領(lǐng)域也將會(huì)是未來垂直行業(yè)應(yīng)用發(fā)展更具前景的四大行業(yè)領(lǐng)域。未來，像麥當(dāng)勞、聯(lián)合利華、沃爾瑪?shù)冗@種大企業(yè)，完全可以建立屬于自己的專屬大模型，為企業(yè)發(fā)展創(chuàng)造更好收益。

垂直行業(yè)模型與大模型并不是一體兩面的對立存在，而是各有其優(yōu)勢，可以相互借力。通用大模型通常具備的是強(qiáng)大的文本處理和語言處理功能，具有普適性，而垂直大模型所強(qiáng)調(diào)的則是特定的行業(yè)需求。專家指出可以利用大模型做數(shù)據(jù)標(biāo)注，用較小規(guī)模的模型進(jìn)行訓(xùn)練。這樣既可以為企業(yè)提供垂直模型的優(yōu)良效果，又可以降低硬件資源的使用門檻，從而在一定程度上減輕企業(yè)的成本負(fù)擔(dān)。

針對模型訓(xùn)練，暴雨推出了4U8卡AI服務(wù)器，支持 1 或 2 顆第四代或第五代英特爾?至強(qiáng)?可擴(kuò)展處理器，最多滿足8張600W雙寬GPU卡全功率運(yùn)行。它支持多 CPU-GPU直連以及 CPU-GPU switch連接拓?fù)洌軐?shí)現(xiàn)GPU-GPU之間全速通訊，其中直連方案，經(jīng)llama2 benchmark測試，推理速率≥768Toks（70B@4090*8）。還支持多種 AI 加速卡，滿足各行各業(yè)模型訓(xùn)練需求。CPU-Switch支持 PCIe5.0x32互聯(lián)，實(shí)現(xiàn)高帶寬通信。支持12x3.5"/2.5"SATA/SAS/NVMe或8/16/24x2.5" SATA/SAS/NVMe多種硬盤配置，可以有效滿足模型訓(xùn)練數(shù)據(jù)本地緩存。

除了硬件支撐之外，暴雨還能提供完整的一站式行業(yè)解決方案。暴雨 AI私有化解決方案集成了AI開發(fā)平臺(tái)、AI加速軟件棧、資源編排和調(diào)度等一系列軟件與服務(wù)，以及計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)等AI基礎(chǔ)設(shè)施。為企業(yè)使能AI提供了更高效、更可靠的解決方案，提升大模型的研發(fā)效率，同時(shí)保障了模型訓(xùn)練過程的可靠性，助力企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型和智能化升級。

面對日益激烈的市場競爭， 暴雨致力于成為合作伙伴商業(yè)化道路上值得信賴的伙伴，不懼未知AI，勇敢邁出構(gòu)建專屬小模型的第一步，積極擁抱數(shù)字化轉(zhuǎn)型，開創(chuàng)屬于自己的智慧增長新篇章。