通過 AI技術實現“日產千條視頻、周產百個賬號”，類似這樣的“AI起號流水線”你有聽過嗎？

近期，抖音開始重拳出擊整治這些“AI起號”了！抖音對利用AI進行賬號批量生產、傳播虛假信息的黑灰產鏈條展開了重點打擊，共清理了311條違規內容，封禁了“心x甜”等15個嚴重違規賬號。

這場針對“AI起號”的專項治理行動，近期不僅僅發生在抖音，此前小紅書等興趣電商平臺也有同樣動作，都對AI技術濫用展開了嚴厲打擊。不過，與這些平臺態度不同，淘寶天貓、京東等傳統電商卻在大力扶持商家使用AI技術。

這種冰火兩重天的局面，或揭示著AI內容產業分化的本質：在興趣電商平臺苦守內容真實性的護城河時，傳統電商平臺正將AI鍛造成突破轉化率的利刃。

01

AI技術濫用6大重災區

從抖音公告可知，本次專項行動重點整治了AI技術濫用幾大重災區：

AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI視頻賬號售賣教程、AI賬號秘籍傳授、引導規避平臺AI標注、轉讓銷售AI虛擬賬號等行為。

公告中表示，以任何形式贈與、借用、出租、轉讓、售賣賬號均屬違規行為。平臺歡迎創作者在合理合法使用AI創作的同時積極對生成內容進行標注聲明。

后續，抖音將持續加大對各類涉AI生成相關違規行為的打擊力度，不斷完善平臺內相關內容治理能力。值得一提的是，抖音這場AI治理風暴其實一直在進行，公告顯示：

2023年與2024年，抖音相繼發布了《關于人工智能生成內容的平臺規范暨行業倡議》以及《關于不當利用AI生成虛擬人物的治理公告》。平臺在公告中明確表示，不鼓勵利用AI生成虛擬人物開展低質創作活動。同時，對于違規使用AI生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠內容的行為，將予以嚴格處罰。

此次專項行動，抖音將監管層級從內容端延伸至賬號生產環節，標志著平臺AI治理進入了“全鏈條管控”新階段。

02

多個平臺都在重視AI內容治理

抖音此次大力整治AI起號現象，背后是對平臺內容生態健康發展的深切憂慮與高度謹慎，而類似治理前段時間也出現在小紅書、微信等平臺。（延展閱讀：）

5月12日小紅書也明確公告，將重點聚焦利用AI批量生產虛假內容漲粉、利用AI起號引流帶貨、售賣AI起號課程、售賣AI賬號等違規行為開展專項整治工作。

小紅書、抖音等平臺對AI批量生產內容和起號等行為打擊力度之大，與它們作為興趣電商平臺的核心運營邏輯緊密相關。

對平臺來說，其核心競爭力在于精準匹配用戶興趣，為用戶提供基于個性化需求的內容體驗，因此高質量、真實可靠且富有創意的內容是吸引和留住用戶的“殺手锏”。但當AI技術被濫用于批量生成內容，看似內容數量在迅速膨脹，實則質量參差不齊，甚至充斥著大量低俗、虛假、無意義的信息，就使用戶體驗被極大程度地破壞。

如果平臺放任不管，會給自身帶來三個很大的威脅：

一是內容同質化泛濫。AI批量生成內容時，往往會遵循某種固定的模式和套路，當同質化內容如潮水般涌來，會讓整個平臺的內容生態變得單一乏味，失去新鮮感。想象一下，用戶本來帶著期望點開視頻或文章，期待獲取有價值的知識、有趣的觀點或是審美享受，結果卻刷到千篇一律的低質AI產出，久而久之，信任感崩塌，平臺活躍度與留存率必然下滑。

二是創作者生態容易被破壞。興趣內容平臺的發展離不開創作者生態的繁榮。若AI起號、批量生產內容的歪風盛行，那些用心經營、原創優質內容的創作者將會被埋沒在海量低質內容里，得不到應有的流量扶持與收益回報。當創作熱情被澆滅，平臺的創作者隊伍也會逐漸流失，最終陷入內容荒蕪的困境。

三是商業價值的稀釋。興趣內容平臺，其商業價值建立在用戶注意力資源的基礎上。抖音、小紅書的算法推薦機制本質是“時間爭奪戰”，用戶停留時長背后是內容生態的多樣性與真實性構成的競爭壁壘。當AI批量生產的內容開始擠占原創內容空間時，就會動搖平臺賴以生存的內容護城河，最后造成平臺商業價值的稀釋。

因此，對這些平臺來說，AI內容生產已進入“精耕時代”，對AI生成內容的治理也迫在眉睫。

03

傳統電商平臺為何積極擁抱AI

截然不同的情況是：

傳統電商平臺對商家使用AI技術生成內容等，持大力支持態度，尤其在今年618體現得更為明顯。

今年618，淘寶天貓推出了覆蓋經營全流程的AI提效工具，幫助商家降低創作門檻。如“圖生視頻”工具，商家只需上傳一張或多張商品圖片，即可自動生成最長20秒的動態短視頻，可以顯著提升素材制作效率。此外，平臺還提供“一鍵成片”、“智能修片”、“搭配視頻”、“腳本成片”等多種視頻創作能力，滿足不同商家的多樣化需求，助力提升商品頁面的瀏覽量與轉化率。

幾天前，京東云也宣布，首次向POP商家開放五大免費AI爆款營銷產品，包括直播數字人、商家客服智能體、短視頻生成、京點點、京麥AI助手等創新應用，覆蓋“開店-運營-營銷-服務”全鏈路，助力商家實現降本增效與生意增長的“雙輪驅動”。

因此與抖音、小紅書等興趣電商平臺有所不同，淘寶、京東等傳統貨架電商平臺在幫商家積極擁抱AI技術，這背后有著契合自身業務邏輯與商業目標的考量。

興趣電商平臺依賴的是“不確定性興趣激發”，貨架電商平臺追求的是“確定性轉化”。貨架電商平臺的首要目標是促成商品交易，其運營重點圍繞提升交易效率、優化用戶購物體驗展開，而AI技術在這些方面能大展身手，可直接優化選品、庫存、物流、客服等環節的效率。

比如，在AI內容供給上，直播數字人可以突破主播人力限制，無需擔心人力疲勞與檔期安排，可以持續不間斷地進行商品展示與推廣。憑借AI對直播場景、話術的實時優化，能夠始終保持最佳帶貨狀態，為商家帶來持續的流量與銷售額，這種創新的營銷形式為電商平臺注入了新的活力，拓展了商業邊界。

對商家來講，有了AI輔助能降低運營成本，提升店鋪的曝光度與銷量，從長遠來看，運營成本的降低直接轉化為利潤空間的提升。而且，AI在貨架電商平臺上的應用還有可能催生全新的商業模式。

就在前天（5月19日），羅永浩還宣布正式開啟與百度優選的戰略合作，將于5月23日晚8點開啟首場直播。據團隊透露，此次合作源于雙方對AI技術驅動電商變革的共識。百度電商方面表示，雙方將以AI技術為紐帶，一方面通過羅永浩的選品能力為用戶帶來優質供給。另一方面借助百度的智能電商布局更多商家，推動直播電商向智能化、高效化升級。

綜上，抖音“AI起號”專項治理行動只是當下興趣電商平臺應對AI內容挑戰的一個縮影。興趣電商平臺與貨架電商平臺因業務特性差異，對AI技術呈現出了不同態度與應用方式，未來隨著AI技術向產業縱深滲透，這種分化或將進一步加劇。

但無論是整治還是擁抱，核心都是為了讓技術更好地服務于用戶、助力行業發展。對創作者來說，也需在“人機協同”中尋找新平衡點。

對此，你怎么看？AI生成內容的未來走向如何？歡迎評論區留言。

PS.

加入見實會員（點擊下方按鈕），參與前往各大品牌的私域游學和私享會，及獲取私域大會PPT和直播回放、在線課程、40+主題白皮書等一手資料。

↘私域服務對接