?商業與生活 文|朱曉培???
校對|大道格
“傅盛一說要談AI,我一聽有AI可以談,我就愿意談。”1月21日,周鴻祎出現在了獵戶星空大模型發布會上。
周鴻祎與傅盛,曾經的一對冤家,在16年后,因為AI大模型再次同臺論道。周鴻祎說,陳年往事已經沒有意義,只有做好大模型才有前途。
如何抓住這次創新AI大潮??
自從2023年3月,OpenAI發布了ChatGPT-4.0后,AI大模型將重塑千行萬業,成為業界的共識。隨之而來的,便是大模型創業大潮,據不完全統計,過去一年,國內進行大模型創業的公司大概有三四百家。
然而,很多的大模型創業公司似乎都走進了一個比拼參數的誤區,參數越做越大,但真正落地的、有價值的卻寥寥無幾。
相比之下,在這一輪大模型風潮中,因為投資了OpenAI而贏麻了的微軟,戰略重心卻一直放在應用上。同時,美國最大的CRM軟件服務商Salesforce,過去一年的主要動作,也是用大模型對其產品做功能加持。
“再高深的技術,沒有商業落地,都只是技術狂歡。脫離市場的技術投入,都是資源浪費。” 當國內大廠在卷大模型的時候,傅盛用Think Different思維邏輯做AI大模型創新。 他在發布會的演講中提出,AI大模型應該要與企業的經營數據全綁定,深入提供決策支持。
曾經與傅盛在朋友圈因為大模型創業而“吵架”的朱嘯虎,也公開表示贊同:“很多垂直場景用開源小模型優化后的結果遠比通用大模型要好,垂直場景和數據的重要性遠超大模型本身。”
此次發布的開源百億參數獵戶星空大模型,就號稱是“專為企業應用而生”。傅盛強調,在企業應用場景中,獵戶星空大模型在結合企業私有數據和應用時,即可實現千億參數級別的模型效果。
01
AI大潮來臨,有人已經搶跑了
天下武功,唯快不破。
AI大模型的出現,正在讓一些公司,一些人變得更快。
不久前,《商業與生活》去某零售集團交流,發現他們正在測試AI大模型,目標是在未來給每個一線員工都配備一個“AI助手”,幫助管理和調用資源。他們的技術負責人表示,服務的最佳體驗就是快,用戶想要什么,你立馬滿足他,給出解決方案。誰快誰就能勝出。
“AI大模型的到來,絕對會給不懂技術的人一個非常強大的支撐。以后誰懂業務,誰懂離計算機遠的行業的規律,那誰就有可能被AI放大自己的能力,可能是十倍、百倍的放大。以前技術只屬于程序員,但今天不用了AI大模型使得技術的鴻溝被拉平了。”傅盛說。
獵豹CFO的助理,沒學過編程,但用了Chat GPT以后,就寫出了一些自己工作相關的程序,比如Word轉PDF加水印。而且,她寫出的程序,不僅自己用,連公司的法務、財務同事都在用,還贊嘆比公司的技術團隊給的程序都好用。
Open AI帶來的技術浪潮,讓那些率先使用了AI大模型的公司,嘗到了AI技術帶來的紅利。
2023年早些時候,美國工作建議平臺 Resumebuilder.com 對商業領袖的一份調查就顯示,有半數美國企業已經在用 ChatGPT 了。企業使用 ChatGPT 的原因有很多,有寫代碼的,有寫文案的,有寫會議摘要和其他文件,還有用于客戶支持的。大多數商業領袖都對 ChatGPT 的工作印象深刻,認為它讓公司節省了很多錢。
在國內,面對這一次AI大潮,眾多企業主們、管理層雖然都迫切的想加入其中,但是要么不知道該怎么做,要么擔心投入能否帶來正向的收益?
中國移動通信集團終端有限公司副總經理汪恒江就表示,AI大模型浪潮起來后,中國移動終端團隊就一直很關注AI大模型的應用。包括,大模型在終端落地會有什么樣的變化?哪一個流程環節更適合用大模型進行改造,并能夠實現真正的收益?
中國移動終端也在一些場景上試點用AI大模型進行改造。比如,針對家庭工程師進入戶安裝現場可能遇到的問題,在4個省份,做了一個問答數字人,可以做到一分鐘回答問題。實驗數據顯示,一部分問題,確實能夠得到及時回復,并解決了問題。但也有一部分回復了,卻不一定能幫助解決問題。
中國移動終端汪總認為,從回復問題的速度上看,大模型機器人確實比人工更快速。但是,大模型機器人能否更智能,讓家庭工程師的工作效率更高,甚至幫助解決所有的問題?這是他期望從獵戶大模型上看到的答案。
02
企業大模型,為什么要私有
某零售集團的技術負責人曾告訴《商業與生活》,他們現在實驗的AI大模型,仍局限在單店上。因為,出于安全和權限的考慮,不敢給大模型喂更多的數據。
企業的謹慎,沒有錯。
傅盛在推動獵豹和獵戶星空經營數據的全流程AI化的過程中,就有法務等部門的同事指出,有些內容是不應該使用ChatGPT來制作的,因為一旦機密泄漏,就會威脅到公司的安全。
傅盛逐漸想明白了,“OpenAI的‘陽謀’”——用戶想要使用AI大模型時,就需要把自己的知識、數據先輸入給大模型。這樣,自己會因此獲得大模型的幫助,大模型也會越來越聰明。但如果是ChatGPT等這樣的公有大模型,那也意味著,自己的數據也會幫助到同樣使用這一模型的競爭對手們。
人們每使用一次ChatGPT,都可能在幫自己的競爭對手,甚至有可能使得ChatGPT具備你的能力,在某天就變成它的一個API接口。就像GPT Store發布的時候,一位硅谷創業者所說,Altman(OpenAI CEO)給了500美金的ChatGPT優惠券,但是毀了300萬美金的公司。
實際上,越來越多的業內認識都已經意識到了,由于企業級應用往往涉及專業場景和多人協同工作,所以更關注協同辦公場景和數據的私有性。ToB端的用戶可能更關注效率需求,但如果大模型的使用可能會給公司帶來風險,那么他就會選擇不用。
特別是對于那些擁有特別敏感且高價值數據的企業而言,更需要定制化或私有化AI大模型。
“我們很多數據是一定需要私有化和個性化,不能公開,這是一定的,特別是在端側,我們手機里面、個人的家庭硬件里面有很多的隱私數據。”中國移動終端汪總說。
而一位大模型創業者也公開表示,一家從事工程報價軟件的公司,絕對不愿意將報價信息提供給公有的大模型。同樣的情況也適用于半導體等公司,以及涉及醫療領域中的隱私數據,以及整車廠擁有大量汽車零配件BOM數據等。因為這些企業的數據,都有很高的價值。
在許多領域中,僅僅依賴通用大型模型可能無法實現落地推進,特別是在企業的安全和金融、政務等方面。因此,這些公司和組織要想踏上AI大潮,只能建立私有的模型。
傅盛表示,Open AI今天幾乎已經把互聯網上所有公開出版的數據都給讀取了,但互聯網再浩瀚也是人類知識體系的冰山一角。每一個公司的文檔都有自己的競爭力和特點。“企業要有持續的競爭力,就應該使用私有化大模型,讓經營數據內循環,讓企業過去留在每個人腦海的經驗變成整個決策智能的一部分。”
03
很多企業百億級大模型就夠用了
2023年,獵戶星空開始進入大模型領域后,就有一些客戶詢問,能不能幫助做私有化部署。比如其中一家是某地方的政務客戶,主要是希望通過AI大模型服務老百姓,回答諸如公積金、社保等問題。因為涉及到數據安全,就不能使用公有大模型。
然而,彼時,業界都認為千億參數大模型是商業化應用的最佳方案,參數越大越好用。
但是,一個千億參數大模型一年私有化授權費用動輒幾千萬。如果用它私有化部署以后,光買服務器能他跑起來,最低成本就要160萬元。
客戶們使用大模型,原本的目標就是降本增效。如果,光部署服務器就需要,就需要巨大的費用,這顯然與初衷背道而馳。
“我們其實就想用大模型做一個客服,一年要投個幾千萬那劃不來。”客戶的負責人向傅盛反饋說,再高深的技術,最后都得算賬,有沒有又便宜又不損失性能的方案。
這也給了傅盛啟發。千億參數可以涌現智能。百億參數可不可以呢?百億參數的智能在有一些情況可不可用呢?
2023年2月,LLaMA的出現讓instruction tuning(對指令進行調優,以改善技術系統的性能和效率)這個方向變得火熱。3月,Alpaca又讓大家看到從成熟的模型 distill(蒸餾,將大模型的學習結果,作為小模型的學習目標)小模型成為還不錯的 ChatBot 的可能性,從而引發LlaMa系(羊駝系)模型寒武紀大爆發,小參數模型的性能快速崛起。而在一些評測級上,百億參數在某一些能力上已經接近了GPT,千億參數不再是唯一選擇。
再開源LlaMa的基礎上,獵戶星空開始進行微調,最終發現,用百億參數的模型,加上客戶的私有數據,再加應用的打磨,在專業領域問題的問答上,就可以達到甚至大于千億參數大模型的結果。
數據顯示,經過了6個月的微調與打磨后,該政務客戶使用獵戶星空AI大模型回答用戶關于社保等方面的問題,準確率可以達到97%。這一效果,已經遠遠超過了ChatGPT。
像ChatGPT這樣的公有大模型,更像是一個通才,但它缺乏行業深度。如果你是一個行業專家,就會發現GPT在安全、金融等垂直領域,知識深度是不夠的。
而且,企業需要的也只是大模型的某種知識。比如,需要它回答社保或者移動設備安裝的問題,這個時候公有大模型寫詩、寫論文的能力就是多余的。
實際上,就連OpenAI CEO阿爾特曼(Altman)也承認,大語言模型不是“越大越好”。而有資料表明,GPT4也是由8個垂直模型組成的。
針對企業級應用的需要,獵戶星空最終研發出了預訓練多語言大語言模型——140億參數的大模型(Orion-14B),在企業應用的專業場景可以實現千億參數的效果,而且千元顯卡即可運行。
同時,獵戶星空做了7個應用方向的微調。比如前不久李開復老師發布的34B的模型,獵戶星空就給他做了聊天微調。傅盛說,獵戶星空大模型的目標是讓更多的企業,“用得好、用得起、用得安心。”
1月23日,寧夏希望信息產業股份有限公司(簡稱“寧夏希望”)與獵戶星空簽署戰略合作協議。接下來,兩家公司將在政務服務大模型、公積金大模型、寧夏六特大模型、大模型私有化部署一體機、大模型應用服務平臺及智能機器人產品等領域進行深度合作。
“大模型技術為核心的AI技術推動社會方方面面的變化。但是,大模型對于任何一個專業領域的改變,并不是‘一套算法’走天下。在算力支持下,大模型也需要‘量體裁衣’,需要對專業領域的‘專業知識’進行辨識和數據微調,才能讓這個專業領域中的數據發揮出’智能‘的作用。’大模型‘只有對專業領域全鏈條的學習,不斷的數據微調,才能成為這個專業領域‘合格’的人工智能大模型。”希望公司研發中心主任李鵬說。
04
七年磨一劍,獵戶星空為什么可以?
中國移動終端汪總提到,他們在測試的AI大模型,需要回答好設備安裝中可能遇到的500多個問題。在移動設備入戶安裝場景下,出現的問題其實是有限的,關鍵是每個安裝師傅在提問上的表達各不相同,大模型能否準確的識別出安裝師傅要表達的疑問,并匹配上正確的答案。
而這也是獵戶星空的優勢之一。
早在2016年,傅盛就宣布“All in AI”,并投資了智能服務機器人公司獵戶星空。但如何能夠讓服務機器人與人更好的交互,一度困擾著獵戶星空的發展。傅盛后來承認,當時肯定是偏樂觀一些,語音轉文字做得很好,但語義一度是機器人理解不了的。
而大模型技術的出現,讓機器人有了“理解”的能力。據《商業與生活》了解,從2023年4月份,獵戶星空就在推進自研大模型應用“聚言”與機器人的結合。
在許多地方的博物館里,獵戶星空的導覽機器人 豹小秘功已經上崗,會帶人們巡游展館、聲情并茂地解說。而接入“聚言”之后,參觀者可以直接去和機器人對話,讓機器人根據提問展開講講。
實際上,獵戶星空做大模型的想法,也與自己早期在服務機器人上應用大模型技術的感受有關。他們發現,服務機器人其實是大模型的一個終端載體,如果把場景更換一下,比如用戶使用手機或者PC進行問答,本質是一樣的。
通用大模型動輒需要上千億的參數,從算力上看,對于任何一個公司服都是一筆不菲的成本。但是,具體到某個場景,可能只需要百億級別的參數,比如博物館講解的產品,100億參數就足以解答用戶的各種需求。
“聚言”是大模型技術的深度應用,通過全鏈條的AI大模型咨詢定制,為客戶提供AI輔助決策交鑰匙解決方案。而基于“聚言”打造出的 “數字老板”,可以幫助企業老板全面掌握經營細節、不留遺漏,包括人力資產,云資產,數字資產等,幫助企業運營提效,領先同行目標。
值得一提的是,“聚言”出來后,獵戶星空順手做了一個日韓語版本。因為獵戶星空的服務機器人在日韓賣得很好,但以前每進一個餐廳都得重新做一遍適配,語言又不通,成本很高。所以,早期的獵戶星空干脆把在海外銷售的服務機器人的對話能力關掉了。但現在,有了“聚言”,機器人在日韓也可以做到很好的交流。“大模型也給我們的機器人應用插上了翅膀。”傅盛說。
ALL IN AI 7年磨刀,厚積薄發,獵戶星空終于迎來了釋放能力的時刻。
05
《商業與生活》點評:
AI是一把手工程
一企業負責人曾對《商業與生活》提到,同樣的模型,同樣的AI工具,不同公司使用后的效果會截然不同。有人覺得好用,有人覺得不好用。其實,不是工具不好用,是公司沒用好。
企業的數字化建設會取得什么樣的效果,最重要的是,企業的決策者有沒有數字化思維,企業整體有沒有數字化遠景和目標。有很多企業會要求數字化服務公司幫著干這個、干那個,其實,許多都是企業自己該干的。本質上,AI大模型是一個工具,但利用這個接口實現什么樣的能力,是公司自己的事情。
正如傅盛在演講中所說的那樣:要想跟上AI浪潮,公司老板必須自驅,要一把手親自抓,而且要對流程進行AI重構。
傅盛把企業使用AI分為三個段位:青銅段位,是用AI做文案、畫圖。黃金段位,是數字員工。王者段位,企業全過程的經營數據都由AI參與,可以直接提供經營決策,如該不該發布一個產品,哪些費用可以被減少,哪一個地方的工作重點需要加強等等。傅盛認為,企業要想真正用好AI,應該是全流程、全數據化,使用“數字老板”,做到流程重構。
據了解,獵豹內部已經開始組織部門進行調整,成立了AI生產力部門,把過去散落在各地的中臺部門全部統一到這個部門里,而且直接向傅盛匯報。
AI這件事情,只有老板特別重視才可能推得下去。AI應用,也只有深度結合企業流程才能發揮作用。
—End—
更多關注:商業與生活,ID:xiaopeizhu8
內容同步:網易號、同花順、百家號、今日頭條、UC、雪球、企鵝號、一點資訊、知乎、搜狐等。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.