今年以來，全球AI應用呈現爆發式增長，也被稱為是AI大模型應用的元年。

據Gartner預測，到2027年，企業使用的AI模型中將有一半以上具有特定行業或業務功能，而在2023年這一比例僅為不到1%。從模型訓練到應用開發的過程中，企業如何將大模型進行業務場景化落地始終是核心問題，投入成本大于可見收益、應用效果不達預期、后續模型效果退化等問題屢屢出現。

關于未來企業進行大模型產業落地的主流形式，如何打通模型到應用的“最后一公里”，各行各業仍在探索之中。

11月6日，在百度智能云舉辦的千帆媒體沙龍現場，分享了企業在大模型使用過程中的三大路徑：一種選擇是直接調用模型，也就是模型推理；第二種是模型應用效果優化，包含了提示詞優化、模型精調以及模型能力增強；第三種則是大模型應用開發。在前不久的百度云智大會上，升級發布了千帆大模型平臺3.0，能夠為用戶提供最專業的應用開發工具，以進一步滿足企業客戶對模型調用、模型開發、應用開發的需求。

首要是選好基座模型，但關鍵在于效果優化

眾所周知，一個好的基座模型基本上決策整個大模型在實際自己落地效果是否可用。以百度智能云千帆大模型平臺為例，其就提供了最全的模型服務，其中ERNIE 4.0等旗艦模型適用于通用的復雜場景；ERNIE Speed、ERINIE Lite等主力模型，適用于垂直場景定制訓練或構建行業模型；此外，還有輕量級、垂直場景模型，分別適用于特定垂直場景調用。

針對大模型落地成本高的問題，百度智能云今年將文心主力大模型ERNIE Speed、ERNIE Lite全面免費開放，對文心旗艦大模型ERNIE 4.0、ERNIE 3.5進行了大幅降價，進一步幫助企業降低大模型使用門檻和試錯成本，加速業務創新。

選擇了適合自己的基座模型，后續更為重要在于如何優化模型應用效果。這其中有三個關鍵點：

其一、是提示詞優化，激發模型交互效果。對于直接使用大模型推理調用服務的企業來說，首先要看模型能力。“模型能力決定應用體量的下限，場景適配度決定上限”已成行業共識。

一方面，是由于大模型應用存在場景化差異，不同行業、企業與場景需要大模型的能力側重點并不一致，“一把鑰匙開一把鎖”的差異化能力仍待普及。滿足大模型調用需求的當務之急，是建構豐富的模型服務，提高模型場景適配度。另一方面是由于提示詞并不精準、詳細，無法真正激發大模型的推理、規劃能力。

比如，在法律咨詢場景下，相比于“經濟合同糾紛案的流程是什么”這類泛泛的提問，優化后的Prompt加上了“你是一位優秀的律師，你沉著冷靜”，“注意回答清晰、簡潔，并充分考慮當事人的利益和需求”等人設、場景等提示詞，優化后的回答更像真人律師，更符合用戶的預設與期待，而非冷冰冰的生硬步驟陳列。

此外，千帆大模型平臺還優化了Prompt，并預置了近300個行業場景的prompt模版，在保障大模型能力“為我所用”的同時，輔助激發大模型使用效果，提高模型的交互效率、輸出質量。

其二、模型精調訓練，是企業使用大模型的必經之路。現階段，企業在使用大模型的過程中，重點關注場景應用效果、推理服務性能、使用成本等三大維度指標。企業要讓應用在自身垂直場景發揮最大效果，就需要模型精調。但各行各業的模型開發和訓練過程中，無論是開發者還是企業，都遇到了很多挑戰，比如如何通過精調來實現可靠性的保障；如何全面做大模型的效果評估；如何解決計算與推理資源不足的問題等。

針對以上企業進行模型精調訓練中的難點，千帆大模型平臺開發出了完善的數據洞察、清洗和回流能力，能夠確保輸入數據的準確性和有效性。同時，平臺還擁有獨家的高質通用語料數據，這些數據經過精心篩選和整理，為模型訓練提供了豐富的素材。在模型訓練過程中，千帆大模型平臺還提供了最全的量化壓縮工具鏈，能夠有效地降低模型的復雜度和計算量，提高模型的運行效率。

此外，千帆還提供了最全的偏好對齊訓練方法，通過這種方法，可以確保模型在輸出時能夠與用戶的需求和偏好保持一致。另外，千帆大模型平臺還凝聚了眾多最佳實踐的精調樣板間。這些樣板間為模型訓練提供了可借鑒的范例和模板，有助于模型在風格和行為上實現更好的對齊。

通過千帆，用戶可以把自身模型應用變成數據飛輪，從數據生成、回流、篩選、人工標注到二次訓練和效果評估，形成循環，使大模型更加適應企業級自身場景需要。在大模型產業落地實踐中，千帆平臺積累了豐富的模型精調經驗。目前，千帆ModelBuilder已幫助用戶精調了3萬個大模型。

其三、模型能力增強，RAG、Tool的靈活運用。企業逐步探索如何將大大模型融入自身的業務體系中，RAG以及各類工具的使用結合是必不可少的，RAG可以幫助企業構建更加精準、更具精準性的問答助手，從而更好地服務于客戶。千帆AppBuilder正是為企業提供企業級RAG的最佳應用開發平臺，擁有極致效果、無限容量、靈活調配等企業級功能。

從“問題解釋“到“問題解決”，工具平臺決定AI應用能力天花板

過去，傳統應用開發流程復雜，需要先進行高層設計，再分解為子模塊開發，最后集成到一起，這一過程耗時且風險極高。在大模型時代，AI原生應用在產品形態上顯著變化，依托大語言模型的理解、生成、邏輯、記憶四大核心能力，應用交互從傳統的表單和按鈕，轉變為自然語言對話。

目前，通過工具進行大模型應用開發主要有三大類：第一類是原來有一套APP或者一套應用系統，能夠將大模型作為 Copilot 優化交互體驗，這也是最常見的形式；第二類是原來的業務流程還在，能夠用大模型降低成本提升效率、節省時間；第三類是能夠做到原來做不到的事情，比方說用大模型去生成一個 CAD 的圖紙，產生更大的創新生產力。

同時，各行各業的企業在應用大模型落地過程中，在準確可靠性、與內部系統關聯性、安全性、使用門檻上仍有許多問題。

針對這四大類問題，百度智能云千帆 AppBuilder為提供企業級大模型應用開發平臺，不僅滿足企業級Agent的開發、企業級集成和安全部署，另外沉淀了工業、政務、能源等6大行業應用開發解決方案。通過千帆AppBuilder，用戶可以生成具有自主規劃能力的Agent，支持用戶自定義創建組件，并被Agent自動編排調用。同時，在沙龍現場透露，在即將舉辦的2024百度世界大會上，千帆AppBuilder還將進行更先進的Agent編排方式發布，進一步提升AI應用能力天花板。?

此外，為了進一步降低應用開發門檻，千帆大模型平臺提供應用開發工具——AI速搭，支持零代碼自然語言構建與Copilot自動生成，用戶幾分鐘即可生成一個應用。截至目前，千帆大模型平臺已經幫助用戶開發了超過70萬個應用。千帆AppBuilder、AI速搭等工具，已在旅游助手、圖書管理系統等場景中實現快速落地，并針對AI智能導購、新聞資訊、醫療健康、民生服務等領域輸出大模型應用樣板間，幫助企業加速大模型應用落地。