演講嘉賓｜李波

策劃｜AICon 全球人工智能開發與應用大會

在 InfoQ 舉辦的 AICon 全球人工智能開發與應用大會上摯文集團生態技術負責人李波做了專題演講“大模型在社交生態領域的落地實踐”，演講從摯文集團實際的生態問題出發，從多模態大模型如何進行對抗性生態內容理解、如何進行細粒度用戶性質判定，以及如何進行人機協同降本提效等方向展開。

嘉賓介紹

李波，畢業中國科學技術大學計算機系，在廣告、推薦等方向有十余年的資深經驗，先后負責過信息流、直播、短視頻等典型內容場景的推薦業務，均取得過突出成績；近兩年，結合大模型能力，面向集團國內、海外各業務線的生態問題開展工作，在跨語言多模態內容理解，人機協同等方向進行全方位技術轉型和升級，帶來顯性的降本提效變化。

內容亮點

• 了解泛社交生態領域中的問題和挑戰

• 大模型在面向生態對抗性問題中的解決方案

• 開拓思路，大模型如何在互聯網企業中降本提效

以下是演講實錄（經 InfoQ 進行不改變原意的編輯整理）。

摯文集團生態問題總覽

提到摯文集團，可能大家對這個名字不太熟悉，但對我們旗下的產品線應該比較了解。摯文集團是一家涵蓋陌陌、探探以及海外創新社交產品矩陣的集團化公司。我們在社交和泛社交領域已經深耕了十幾年。

在聚焦生態問題時，我們會重點關注社交賽道上的生態問題。提到“生態”這個詞，大家可能既熟悉又陌生。很多人對生態的理解可能比較狹義，甚至會將其與一些負面問題聯系起來。從社交領域來看，我們更多是從人的角度來理解生態問題。它主要可以分為黑產和灰產兩種情況。對于黑產，我們認為它具有團伙性質，且具備明確的產業鏈分工，并在下游從事一些違法犯罪活動。對于灰產，則更多是非團伙性質，以直接獲取利益為目標，比如通過獲客或在平臺上進行紅包乞討等行為。

從內容角度來看，這其實是一個公序良俗問題，我們稱之為社區秩序問題。它可能包括監管部門明確禁止的違法違規內容，以及平臺不鼓勵的內容，比如荷爾蒙騷擾、辱罵等。無論從哪個角度來看，生態污染的作案過程基本分為兩個階段：第一階段是獲取資源，比如通過發布性感舞蹈視頻等方式獲取大量曝光資源，或者通過批量主動行為獲取互動資源；第二階段是在下游作案，比如在公開場景中直接曝光二維碼或聯系方式，或者將用戶引入私密的 P2P 聊天場景中發送聯系方式或廣告等行為。

在整個生態治理過程中，我們面臨許多痛點和難點。首先，痛點之一是多元多模態問題。由于我們有出海業務，生態治理需要涵蓋多種語言，包括中文、英文、日語、阿拉伯語和土耳其語等。同時，治理對象涉及圖像、文本、語音和視頻等多種模態。這種多元多模態的特性增加了治理成本。第二個痛點是時效性要求高。生態治理需要快速響應，污染爆發和處置的時間間隔不能過長。例如，一旦黑產爆發，我們需要迅速封禁并加以管控，否則會影響治理效果。

除了痛點，生態治理的難點主要體現在強對抗性，這可能超出大家的想象。首先，內容方面存在大量變體。例如，黑產不再簡單地發送聯系方式，而是通過 AIGC 生成復雜的方式傳遞信息。其次，行為模式上，黑產團伙會協作作案。比如，一個人發布吸引流量的視頻，另一個團伙成員在評論區置頂，第三個人在置頂評論下引導用戶查看置頂用戶的頭像，從而完成一次隱蔽的團伙作案。最后，系統機制方面，黑產團伙會通過大量刷平臺 API 接口，發送超大、超長或異常格式的圖片，對抗內容檢測模型。

從各種痛點和難點來看，生態治理并不是通過一兩個模型就能解決的問題，而是一個非常復雜的體系化問題。因此，我們需要構建一個完善的系統性治理框架。在這個框架中，我梳理了策略應用環節涉及的幾個關鍵問題，包括底層模型層（如用戶模型和內容模型）、能力接入層（如用戶畫像和內容標簽），以及上層的生態治理策略（包括同步推審能力和異步推審能力）。同時，我們還需要結合審核能力和對污染的巡視結果，不斷強化治理能力。我會主要聚焦在以下三個問題上：

• 底層能力層。我們需要在多模態和大模型方面提升對內容的理解能力。

• 能力接入層。大模型如何精細化、批量地加工用戶畫像。

• 大模型在生態審核側的應用情況。

多模態大模型提升生態內容對抗能力

大家對生態問題的理解更多是偏向于狹義的負面問題，但實際上生態問題更多是一個資源分配問題，需要持續不斷地打壓負向內容，提升正向內容。因此，生態治理需要大量正向內容理解的支持。

我們過去在 CV、LPSR（可能是指某種特定的模型或技術模塊）以及多模態組合方面構建了許多標簽，例如人物屬性、人臉屬性、場景識別、動作識別和物體識別等。對于負向內容理解問題，它更多是強內容對抗性問題，例如荷爾蒙相關問題涉及大量特定話術，像“喝茶”“加油”“修車”等，這些都可能暗示招嫖行為。

此外，導流問題現在也通過 AIGC 生成的變體進行對抗，傳統的 OCR 模型已無法有效解決。在二維碼識別方面，現在更多是利用 AIGC 生成的方式進行識別。傳統方案在 NLP、CV 和語音方向上構建了大量單點模型，但維護成本過高，導致模型迭代困難。

在大模型時代，我們希望對內容模型進行代際革新，預期目標是通過一個方案解決跨語言、多模態問題，同時具備正向和負向內容理解能力，徹底解決維護和迭代困難的問題。

有了這樣的預期目標，對模型本身能力的要求也非常高。在多模態大模型的精模能力基礎上，我們希望通用能力不下降，同時生態業務能力有顯著提升。

基于這樣的訴求，我們的方案大致如下：我們希望采用統一基模方案，這是當前多模態大模型通用的架構。我們希望方案具備多尺寸搭配，包括一個 7B 到 8B 左右的模型，用于解決大部分多模態理解問題；一個 34B 以上的模型，用于解決復雜任務；以及一個 2B 以下的小尺寸模型，用于應對高性能場景。

對于多語言、多模態的需求，目前重點是音頻模態，我們目前具備 Audio-Language 雙模態模型的能力，并正在研發 Vision-Audio-Language 三模態模型。

對于下游應用能力，我們希望具備以下三種能力：一是通用的 Prompt Engineering（提示工程）應用能力；二是針對生態問題的應急爆發能力，希望能夠在少量樣本的情況下快速訓練出可上線版本，因此需要具備快速響應的 Tuning 能力；三是對于復雜業務問題，希望具備 Post-Training 的下游業務定制化能力。

有了這樣的預期之后，我們就可以開始多模態大模型的研發工作。但在正式開始之前，我們需要思考清楚很多問題。

首先，方案應該如何設計？如何解決通用能力不下降、生態能力提升這一關鍵問題？其次，是否需要引入 CPT？如果是進行 Post-Training，是單純采用 SFT，還是結合 DPO 的方案？此外，基模的選型也是一個重要問題。我們需要兼容多種模態需求，例如單圖、多圖、單模態和混合模態輸入。同時，模型框架需要易于擴展，方便后續的加工和改造。

在數據構建、模型訓練和效果評估方面，也需要提前思考清楚諸多問題。明確了這些問題之后，多模態大模型的研發就可以正式啟動。然而，在整個過程中，我們也走過不少彎路，踩過很多坑。接下來，我們回顧一下我們曾經遇到過的一些問題。

方案 1：Post-train 下游多任務對齊

最初，我們拿到這個問題后，第一個想到的方案是 Post-Training，即對下游任務進行多任務對齊。這個方案非常直觀，可能也是大多數人在面對類似任務時首先想到的方案。具體來說，我們希望通過構建大量的正向和負向多任務數據，進行下游多任務對齊，從而強化模型的正向和負向能力。

對于正向數據，我們重點關注強化標簽化的描述（caption）能力和 OCR 能力。我們列舉了幾個典型任務：首先是開放域多標簽任務。過去，標簽化工作一直是許多領域的傳統難題。在傳統模型時代，由于模型多為判別式或識別類模型，標簽通常局限于閉合域。但在大模型時代，我們希望將內容理解升級到開放域標簽，具備多維度、領域化的標簽能力。

同時，作為社交行業，我們有大量的自拍、生活化圖片，因此構建了 VQA 任務，以提升模型對人效理解的能力。此外，我們還補充了中文 OCR 任務，包括傳統 OCR 問題和 AIGC 類 OCR 問題。

對于負向數據，我們希望強化下游生態的負向應用能力。例如，針對荷爾蒙問題，我們定義了多種邏輯，將問題內容映射到輕度低俗、重度低俗或涉嫌違法等維度。

對于導流問題，我們讓模型判斷內容是否涉及導流，并對導流信息進行描述。對于二維碼問題，我們強化了對普通二維碼和 AIGC 生成二維碼的識別能力。

在數據構建過程中，我們遇到了很多問題。首先是數據來源和標注問題。對于業務數據，尤其是二維碼和導流問題，我們需要借助 GPT-4 等工具進行標注，并通過人工校正來獲取高質量數據。

對于 VQA 問題生成，我們發現僅靠模型自動生成的問題會非常單一。因此，我們先對圖片進行詳細標簽化理解，再生成不同類型的問題，如判斷題、問答題或邏輯推理題，以增加問題的多樣性。

在模型訓練方面，我們需要考慮數據組合，包括開源數據和業務數據的配比。在 SFT 方案中，我們需要決定是采用全參數微調，還是使用 LoRA 等技術。

此外，我們還需要考慮是否在訓練過程中打開模型的某些參數，以及如何設置學習率、批量大小、退火策略等超參數。

完成這些步驟后，我們進入效果評估階段。評估從兩個維度進行：通用能力和業務應用能力。通用能力主要通過多模態的 OpenCompass 等指標來衡量。業務能力則對比導流、荷爾蒙、二維碼、多標簽和 OCR 等任務的表現。

最終，方案一的結論非常明確：盡管我們在數據配比、訓練技巧等方面進行了大量迭代，但通用能力仍然有微弱下降。在一些通用化的生態能力上，如導流和中文 OCR，效果有所提升，但在強業務類問題上，如荷爾蒙和二維碼問題，效果不佳。

我們對這一結果進行了反思：首先，我們訓練的模型是 7B 到 8B 左右的中等尺寸模型，但其推理能力存在缺陷。對于強業務定義類問題，從大量業務定義到最終結果之間存在推理過程，而模型的理解能力與最終結果之間存在明顯差距。

因此，我們意識到不能直接用指令式學習來解決業務定義類問題，而是需要將其轉化為基礎理解問題，從而引出了第二個方案。

方案 2：業務指令抽象到事實理解

第二個方案，即業務指令抽象到事實理解。具體做法如下：以導流和荷爾蒙問題為例，過去的數據構造更多偏向于指令式數據，例如直接要求判斷圖片是否屬于導流，以及導流內容是什么。

現在，我們首先會對圖片進行 OCR 理解，識別出圖片中的所有文字，再根據文字判斷是否含有導流信息。對于荷爾蒙問題，過去是通過大量業務定義的 prompt，直接判斷圖片是否屬于某種類型。

而現在，我們會先對圖片進行強描述理解，然后逐一比對，判斷圖片是否包含身體部位的聚焦、是否存在不當內容等問題。

最終，這是一個 COT 的過程。業務定義的改變也涉及數據構造的變化。我們需要利用 GPT-4 等工具進行批量標注，再通過人工校正，以獲取高質量的標注數據。

采用方案二后，結果發生了明顯變化：多模態大模型的通用能力基本保持不變，導流和中文 OCR 能力有所提升，但對于強業務類問題，如荷爾蒙和二維碼問題，效果仍然不佳。

同時，我們補充了更多維度的測試，例如復雜的 OCR 問題和復雜的二維碼問題，發現模型在這些任務上的表現依然不佳。

基于這些結論，我們進行了更深入的反思：首先，我們思考底層多模態大模型是否天然存在缺陷，導致其難以解決對抗性問題，例如復雜的 OCR 問題。

其次，我們意識到將不同類型的任務混合在一起進行 SFT（可能并不合適，不能簡單地匯總這些任務進行統一微調。基于這些反思，我們進一步探索了方案三。

方案 3：CPT 強化基模底層能力，

Post-train 分類強化業務應用

方案三相對復雜，是一個兩階段的任務。第一階段希望通過 CPT（可能指某種強化訓練方法）強化基模的生態對抗性理解能力；第二階段則通過 Post-train（后訓練）分類強化下游業務能力。

第一階段：CPT 強化對抗性理解能力

首先，需要確認 CPT 本身是否是一個有效的方案。我們質疑基模在對抗性 OCR 理解能力上是否存在缺陷。為此，我們從線上業務數據中收集了大量對抗性 OCR 問題，包括手寫體水印、小字（如帽子上的小字）、通過物體組合傳遞導流信息、扭曲變形的 OCR 以及 AIGC 類 OCR。

結果發現，除了水印問題外，其他類型在多模態基模和 GPT-4 等模型上的表現都非常差，尤其是在 AIGC 類 OCR 問題上。這說明問題本身是成立的，需要通過 CPT 強化對抗性理解能力。

強化的重點是 OCR 能力和對抗性文本理解能力，尤其是 OCR 能力。具體方法是在數據層面下功夫，通過合成數據強化 CPT。合成數據分為兩類：

• 傳統對抗性 OCR 問題：通過 OpenCV 等工具批量生成變形（如三角形、圓形、波浪形）和手寫體的 OCR 數據，構建手寫庫并將其貼到圖片上，生成對抗性 OCR 模型。同時，生成水印組合類數據，解決傳統對抗性問題。

• AIGC 類 OCR 問題：通過 Stable Diffusion 加 Control Net 生成數據。首先從線上業務數據中獲取大量圖片，進行細粒度的標簽化描述理解，然后通過隨機底圖和 SD 加 Control Net 生成數據。生成的結果在近距離看是清晰的，但從遠處看則難以辨認。

通過上述合成數據，開啟 CPT 訓練。訓練過程中需要加入大量開源數據，保持模型的描述（caption）能力，并借助開源的 OCR 和描述能力，再加上批量合成的對抗性數據。經過針對性強化后，對抗性 OCR 問題在幾乎所有類型上都得到了顯著提升。

第二階段：Post-train 分類強化業務應用

第二階段的核心問題是是否可以將所有問題放在一起進行 SFT。經過反思，我們認為這是一個多領域問題，類似于推薦系統中常見的跨領域問題。跨領域問題不能簡單地將所有任務放在一起訓練，而是需要考慮使用專有參數和共享參數來解決。

我們選擇了第二種方案，即對問題進行拆分：

• 復雜業務定義類問題：單獨處理，因為這類問題可能需要特殊參數或更復雜的方案，例如使用 Prefix Training（前綴訓練）或下游更復雜的 DPO 對齊方案。以荷爾蒙問題為例，通過獨立建模，效果顯著優于傳統模型。

• 通用化多模態理解問題：如 OCR 導流、多標簽等問題，進行統籌處理。此外，我們發現將二維碼問題轉化為 Grounding（定位）+ 理解任務后，效果顯著提升。

經過 CPT 和 Post-train 強化后，模型的通用能力基本保持不變，而在導流、荷爾蒙、二維碼和 OCR 等問題上都得到了顯著提升。這基本達到了我們的預期：通用能力得到保持，下游生態業務應用能力顯著提升。

經驗教訓

在整個過程中，我們積累了豐富的經驗教訓。首先，方案設計必須非常清晰。這包括明確預期目標，確保方案與目標之間沒有偏差，同時要清楚區分模型的基礎能力和應用能力。

在必要時，基礎能力與應用能力需要進行隔離，以避免相互干擾。其次，數據構建是至關重要的環節。無論怎么強調都不為過，我們需要掌握多種獲取優質訓練數據的方案，包括人工標注、利用 GPT-4 等工具進行標注，以及合成數據的生成。

這些方法需要綜合運用，以確保數據的質量和多樣性。第三，訓練過程中切忌過于依賴技巧。雖然訓練技巧能夠在一定程度上提升模型效果，但在實際業務場景中，應專注于面向具體問題，優先尋找通用化的解決方案來提升模型能力，而不是沉迷于各種訓練技巧。

最后，必須建立清晰的評估標準，并加快評估流程。明確的評估標準能夠幫助我們快速了解模型的性能，從而加快迭代效率，及時調整優化方向。

大模型進行細粒度用戶畫像建設

用戶畫像在生態治理過程中扮演著非常關鍵的角色。它不僅能夠對風險用戶進行前置圈定，還能在污染爆發過程中快速對垃圾信息（SPAM）用戶進行推審。然而，在傳統方案中，用戶畫像的構建主要依賴于深度學習模型，通過大量內容理解標簽進行后置加工處理。這種方法存在諸多問題：

• 業務形態差異大：不同業務形態之間差異顯著，導致特征來源多樣化，畫像需要獨立建模，難以批量加工，方案的可遷移性差，僅能解決單點問題。

• 精細化區分能力不足：傳統深度學習模型在語義理解上存在較大缺陷，難以進行精細化區分。若要進一步提升精細化能力，只能通過增加數據成本來實現，而這會導致成本大幅上升。

• 特征和數據異構性問題：由于特征和數據的異構性，很難構建一個強大的數據反饋體系。

在大模型時代，我們構建了一個統一化的方案，從實施會話數據出發，形成了一個“前置召回 + 大模型推理 + 后置加工”的完整方案，解決了三個核心問題：

• 統一化批量加工：通過統一化的方案，提升了批量加工效率，能夠在集團內任何一個 APP 上輕松部署。該方案統一了數據源和整體方案架構，并通過前置召回降低了加工成本。

• 細粒度理解能力：大模型具備強大的細粒度理解能力，能夠清晰地進行畫像精細化處理。例如，在導流問題上，能夠明確區分用戶是在打廣告、進行金融欺詐還是騷擾行為。

• 數據飛輪構建：通過線上巡視和污染標注，不斷強化前置召回和大模型推理過程，構建了數據飛輪，實現了自我強化。

有了這樣的方案并不意味著問題已經完全解決。它仍然存在諸多難點：

• 邏輯推理缺陷：7B 左右的模型在邏輯推理上存在缺陷，對于復雜的業務定義類問題（依賴強推理能力）難以處理。此外，如果對話上下文存在語義模糊性，模型容易誤判。

• 對抗性話術理解能力差：模型在理解暗示性或對抗性話術方面表現不佳，難以有效識別。

為了解決這些問題，我們采取了以下措施：

• 業務定義轉換：在訓練過程中，將復雜的業務定義問題轉換為事實判斷問題，并加入 COT 過程。在 SFT 中也加入 COT，以強化模型對業務問題的推理能力。

• 強化對抗性理解能力：通過構建大量合成的對抗性數據對，強化模型的語言對話能力。這一方法在之前大模型的優化環節中已經有所介紹。

大模型在生態審核側的應用

大模型在生態審核側的應用落地涉及同步和異步兩種方案。生態審核的核心需求是：一旦污染或黑產團伙爆發，必須第一時間管控并快速封禁。這要求同步和異步方案協同工作。

同步方案的特點是高精度和低延遲。它依賴于內容識別模型，例如色情識別模型，能夠實時識別并攔截相關內容。一旦檢測到作弊團伙的行為模式，系統會立即自動封禁相關用戶。這種方案要求模型具備極高的準確率，且幾乎沒有延遲，以確保能夠及時攔截有害內容。

異步方案則側重于高召回率。它結合更多特征和更大模型，旨在捕捉更多負向問題。異步方案需要對內容模型和用戶行為特征進行匯總加工，以實現高召回率的推審。雖然對精度有一定要求，但更注重全面性。模型的迭代周期通常為天級別，而審核的延遲大約為小時級別。

在過去，生態對抗治理依賴于一個工具——黑庫。黑庫是一個對象化的檢索庫，通過構建大量異構數據集，將黑樣本加入黑庫后進行線上部署，實時檢測并同步攔截相關內容。然而，在 AIGC 時代，黑庫面臨挑戰：AIGC 生成內容的速度極快，稍作變化就能繞過傳統黑庫的檢測。

解決方案

自適應黑庫

為應對 AIGC 帶來的挑戰，我們將黑庫升級為自適應黑庫。其流程如下：操作員將種子樣本（如圖片 1）加入黑庫后，系統自動回掃并識別出相關圖片（如圖片 2、圖片 3、圖片 4）。

人工判斷這些圖片是否需要加入黑庫。如果圖片 2 被加入，系統會自動更新圖片 1 的檢索閾值，并擴展圖片 2 和圖片 4 的檢索范圍。

這種方法的優點是減少了人工干預，通過人機協同快速擴展種子樣本，提升了對抗效率。然而，人工仍需高度介入，因此我們進一步開發了大模型黑庫。

大模型黑庫

大模型黑庫基于多模態大模型構建，結合向量化檢索庫。它不僅包含負樣本，還包含正樣本。系統通過檢索正負樣本，利用大模型的判斷能力，識別內容是否為垃圾信息，并給出原因。

大模型的優勢在于對圖片內容有更強的理解能力，但其核心挑戰在于需要持續提升對抗能力，可能需要引入日迭代機制以保持其有效性。

總結 & 展望

在過去的一段時間內，我們在生態治理工作中已經初步完成了多模態理解能力和大模型應用能力的建設。目前，我們已經具備了 7B 到 8B 左右模型的能力，以及 Audio-Language（音頻與語言）模態的處理能力。在應用層面，我們已經在生態大模型的策略鏈路中進行了初步應用，涉及內容管控、用戶管控以及垃圾信息對抗等環節。

展望未來，我們計劃在能力層面持續強化生態多模態理解能力，推進全模態能力建設，包括多尺寸模型的構建，提升 AIGC 的識別能力，并逐步實現理解和生成能力的統一。在應用方面，我們希望在 2025 年能夠將大模型能力應用于生態治理的全鏈路，包括自動巡檢、內容審核效率提升，以及開展紅藍軍對抗等工作。

AICon 2025 強勢來襲，5 月上海站、6 月北京站，雙城聯動，全覽 AI 技術前沿和行業落地。大會聚焦技術與應用深度融合，匯聚 AI Agent、多模態、場景應用、大模型架構創新、智能數據基建、AI 產品設計和出海策略等話題。即刻掃碼購票，一同探索 AI 應用邊界！