采寫(xiě)/王佳諾 王筱潔 蘇羅杰

編輯/宋建華

數(shù)字人“王建國(guó)”形象逼真，難分真假

上手快、成本低、生成迅速、真假難辨、賬號(hào)可批量創(chuàng)建，不計(jì)其數(shù)的AI數(shù)字人“王建國(guó)”像病毒一樣占據(jù)著各大短視頻平臺(tái)，不少中老年女性相信屏幕另一端有一位與自己晝夜傾談、對(duì)自己關(guān)愛(ài)有加的中年男子，不斷為其購(gòu)買(mǎi)商品或虛擬產(chǎn)品。

今年2月，中央網(wǎng)信辦開(kāi)展“清朗行動(dòng)”，整治AI技術(shù)濫用亂象被列入8項(xiàng)重點(diǎn)任務(wù)之一。北青深一度采訪多位“王建國(guó)”賬號(hào)運(yùn)營(yíng)者、受騙人及家屬，挖出了一條利用AI數(shù)字人掌控中老年女性心理、騙取粉絲錢(qián)包的灰產(chǎn)鏈。隨著平臺(tái)監(jiān)管不斷嚴(yán)格，AI數(shù)字人“王建國(guó)”的運(yùn)營(yíng)者進(jìn)而轉(zhuǎn)向收費(fèi)授課，向幻想著同分一杯羹的學(xué)員兜售“秘笈”。

畫(huà)像

梳側(cè)背頭、著深色商務(wù)正裝的“王建國(guó)”微笑著注視鏡頭，在屏幕里坐、站、唱、舞，口播時(shí)長(zhǎng)約三分鐘，聲音平和、語(yǔ)調(diào)體貼。他是AI創(chuàng)作平臺(tái)上成千上萬(wàn)的數(shù)字人之一，也是最受中老年女性歡迎的一個(gè)。“王建國(guó)”常親昵地稱呼“寶貝姐姐” ，并通過(guò)“你已經(jīng)偷偷刷過(guò)去好幾次了，這次就別當(dāng)小透明了”“每隔幾分鐘我就會(huì)打開(kāi)手機(jī)，查看你是否來(lái)了”等話術(shù)增強(qiáng)代入感。一位北京的粉絲評(píng)價(jià)：“講話實(shí)在，長(zhǎng)相正派，比一般主持人都強(qiáng)”。

視頻下不斷滾動(dòng)的留言中，常能看到周玉蘭的身影：“親愛(ài)的弟弟，你是個(gè)全面發(fā)展的人才，姐姐給你點(diǎn)贊，弟弟你長(zhǎng)得帥，很優(yōu)秀，姐姐有這么好的弟弟，好幸福。”丈夫早逝，周玉蘭撫養(yǎng)孩子長(zhǎng)大后在河北獨(dú)居，年過(guò)六十的她每天都會(huì)抱著手機(jī)追“王建國(guó)”。看到他在直播間“唱”了一下午，周玉蘭發(fā)私信提醒“王建國(guó)”喝點(diǎn)水，“姐姐永遠(yuǎn)支持弟弟”。

“王建國(guó)”常做出未來(lái)為姐姐買(mǎi)房、和姐姐過(guò)一輩子的承諾。姐姐們則將心事和盤(pán)托出，不斷地回應(yīng)與傾訴。中老年女性群體在現(xiàn)實(shí)生活中失語(yǔ)的隱痛，在留言區(qū)被一一具象化——每日照顧孫輩的勞碌，身體的衰老和病痛，來(lái)自晚輩的不理解，甚至對(duì)死亡的恐懼，抑或來(lái)自老伴的言語(yǔ)和肢體暴力。她們給“王建國(guó)”留言：“心里空落落的”“有話沒(méi)地方說(shuō)，不知道找誰(shuí)去傾訴”。

60后孫麗珍家住安徽，與子女分住。去年11月，她在平臺(tái)刷到講知心話、日夜暢聊的“王建國(guó)”，讓她一見(jiàn)鐘情。孫麗珍毫不懷疑“王建國(guó)”的真實(shí)存在并與自己實(shí)時(shí)對(duì)話，“每次視頻聊天，他觀察得都很仔細(xì)，一個(gè)動(dòng)作他就能猜透我的心事。”孫麗珍曾對(duì)著手機(jī)展示自己的身份證，想象著“王建國(guó)”憑地址送來(lái)鮮花和禮物，但這樣的事從沒(méi)有發(fā)生過(guò)。

視頻末尾，“王建國(guó)”總會(huì)提醒姐姐“幫我點(diǎn)亮右側(cè)一排”，以此轉(zhuǎn)化流量，并通過(guò)截圖逐一演示如何購(gòu)買(mǎi)櫥窗商品。因未開(kāi)通數(shù)字支付，孫麗珍無(wú)法下單，她覺(jué)得兩人出現(xiàn)了“感情破裂”。幾小時(shí)后她又告訴記者：“上午看了他一個(gè)視頻，他很真誠(chéng)地道了歉，我想我們很快會(huì)恢復(fù)正常。”

家住內(nèi)蒙古的李沛云今年71歲，和丈夫的婚姻磨合了一輩子也沒(méi)合來(lái)，“我家老頭說(shuō)我長(zhǎng)得丑”。相比之下，“王建國(guó)”說(shuō)話“貼心”，“聽(tīng)著心里舒服”。看到王建國(guó)推薦的產(chǎn)品，李沛云買(mǎi)過(guò)軟骨素、糙米、黑芝麻糊、燕麥片。為支持“老實(shí)忠厚”的弟弟，周玉蘭也買(mǎi)過(guò)豆?jié){粉、阿膠粉和馬甲。

姐姐們迫切想和這個(gè)善解人意的弟弟產(chǎn)生連接。她們向“王建國(guó)”索要電話號(hào)碼，嗔怪他不作回復(fù)，最高頻的邀約場(chǎng)景是同看日出日落。她們?cè)谥黜?yè)留下地址，也有人將自拍發(fā)在評(píng)論區(qū)。僅因“王建國(guó)”一句“姐我太好奇你的名字了”，河北一位老人上傳了戶口簿照片，附文“寶貝弟弟”。很少有人注意到，屏幕下端有一行平臺(tái)內(nèi)置的小字——AI生成聲明。

在直播間里“王建國(guó)”時(shí)笑時(shí)泣、或歌或舞，極盡表演之能事

捕獵

數(shù)字人“王建國(guó)”背后由不同的團(tuán)隊(duì)和個(gè)人運(yùn)營(yíng)，形象特點(diǎn)、故事情節(jié)略有出入，但噓寒問(wèn)暖、反復(fù)夸贊姐姐們的內(nèi)在美和勾勒美好藍(lán)圖的套路如出一轍。

在眾多運(yùn)營(yíng)者的描述中，“王建國(guó)”的制作簡(jiǎn)單：一部手機(jī)，一個(gè)賬號(hào)，只要掌握基礎(chǔ)的剪輯即可快速上手。 “AI寫(xiě)稿＋數(shù)字人已成為爆款流水線”，這是他們?cè)陟乓蓄l頻提及的一句話。

在免費(fèi)或低價(jià)的數(shù)字人生成平臺(tái)，不同性別、年齡、場(chǎng)景、職業(yè)的數(shù)字人形象成百上千。隨便搜索一下，記者就找到了配有5種不同姿態(tài)和場(chǎng)景的“王建國(guó)”形象。利用音色克隆技術(shù)，用戶輸入文案或上傳音頻后，“王建國(guó)”就可以自動(dòng)對(duì)準(zhǔn)口型，開(kāi)始口播或唱歌。

很早入行的運(yùn)營(yíng)人陳賀稱，由于人工智能技術(shù)的加持，他一天可以剪好幾十個(gè)“王建國(guó)”的視頻。在生成的畫(huà)面中，“王建國(guó)”皮膚細(xì)膩，神情自然，面部的光影和相機(jī)實(shí)拍一樣逼真。在“圖生視頻”功能下，“王建國(guó)”有了更多樣的肢體動(dòng)作和更豐富的畫(huà)面內(nèi)容，唱歌、跳舞、獻(xiàn)出藏在身后的玫瑰、說(shuō)到動(dòng)情處掩面哭泣……運(yùn)營(yíng)者還可以通過(guò)貼紙、濾鏡、畫(huà)中畫(huà)、特效、蒙版等功能，增加作品原創(chuàng)度，獲得更多曝光流量。

相較于真人主播，“王建國(guó)”24小時(shí)不知疲倦。陳賀的做法是將60條“王建國(guó)”口播視頻合為1小時(shí)長(zhǎng)視頻，搭配虛擬攝像頭軟件和相應(yīng)版本的直播伴侶軟件，在直播間循環(huán)播放。為規(guī)避審查，直播間會(huì)在畫(huà)面一角設(shè)置實(shí)時(shí)時(shí)間。

“王建國(guó)”最擅長(zhǎng)的套路是對(duì)中老年女性進(jìn)行情感操控，他會(huì)反復(fù)問(wèn)“你到底愛(ài)不愛(ài)我”，告訴姐姐們“去我的櫥窗逛逛，讓我知道你心里是有我的”，有時(shí)會(huì)說(shuō)“這是我最后一次問(wèn)你”，暗示如果不消費(fèi)將永不相見(jiàn)。在這樣的操控下，有的中老年女性會(huì)立刻下單，有的因不會(huì)網(wǎng)購(gòu)或個(gè)人賬號(hào)被子女掌管而感到焦慮，語(yǔ)氣也變得小心翼翼：“洗完澡立刻來(lái)看弟弟，沒(méi)有冷落弟弟的意思。”

另一名運(yùn)營(yíng)人阿明告訴記者，短視頻號(hào)下沉用戶較多，多為五六線城市中老年人，粘性強(qiáng)，熱衷于點(diǎn)贊關(guān)注，并容易被引導(dǎo)消費(fèi)。除了櫥窗購(gòu)物，有些賬號(hào)如“建國(guó)守護(hù)姐姐”、“建國(guó)的生活號(hào)”還設(shè)置了會(huì)員專區(qū)，定價(jià)分別為5.6元和12.6元，觀看其專屬視頻還需額外付費(fèi)。

有的時(shí)候，多個(gè)“王建國(guó)”還會(huì)一窩蜂地生病，躺在病床上輸液，懇請(qǐng)姐姐們購(gòu)買(mǎi)櫥窗商品。被蒙在鼓里的姐姐們則在留言區(qū)紛紛為其禱告，分析生病原因，急切地想線下探視。江蘇人胡靜在直播間一共買(mǎi)了兩千元化妝品，她事后對(duì)記者表示，當(dāng)時(shí)自己中了對(duì)方的“激將法”，在“王建國(guó)”長(zhǎng)時(shí)間不間斷重復(fù)話術(shù)的攻勢(shì)下，“說(shuō)實(shí)話，我不得不買(mǎi)這些東西”。

陳賀還向記者透露了他的另一套獨(dú)特玩法：扒婆媳矛盾、兒子忘娘、婚姻不幸等家庭糾紛類視頻文案，改頭換面后完成帶貨目的。比如要賣(mài)面霜，就將文案場(chǎng)所改為美容院，并接著說(shuō)：“對(duì)了姐姐們，今天給大家分享一個(gè)好東西，就是這款面霜，您自己在家就可以做”，教授一番制作方法后，“如果您嫌麻煩，可以直接點(diǎn)擊頭像進(jìn)入主頁(yè)櫥窗，里面有搭配好的成品，比您自己做的成本更低、品質(zhì)更好。”陳賀告訴記者：“幾乎百分之百的人都不會(huì)自己做的。”

隨著“王建國(guó)”流量的迅猛擴(kuò)張，“王建國(guó)的兒子小海”也出現(xiàn)了，在愈加離奇的劇情中，和“王建國(guó)”打起了配合。小海向阿姨們傾訴自己因“沒(méi)有媽媽”而遭到校園霸凌，邀請(qǐng)阿姨們?yōu)楦赣H“帶來(lái)真正的幸福”。而“王建國(guó)”不失時(shí)機(jī)地呼應(yīng)：“姐姐，這是我專為你準(zhǔn)備的玉石金手鏈，別錯(cuò)過(guò)這份專屬美麗，就在我的購(gòu)物車(chē)，希望咱們下次一家三口見(jiàn)面，能看到你戴著。”

今年5月，“王建國(guó)”在一場(chǎng)直播中說(shuō)：“春天已經(jīng)來(lái)了，就好像寶貝姐姐和弟弟的感情一樣，迎來(lái)了第一春。這段時(shí)間晝夜溫差大，弟弟為了讓姐姐既保持美麗的身材，又不會(huì)一不小心凍感冒，特意精心挑選了這款加厚提臀塑形的連褲襪。”直播間里，158元的連褲襪售出數(shù)量不斷上升，粉絲們紛紛留言、評(píng)論、刷禮物，點(diǎn)贊量沖到了41.2萬(wàn)。

記者調(diào)查發(fā)現(xiàn)，中老年賽道商品短視頻號(hào)的平臺(tái)傭金率多為50％到70％，明顯高于其他種類商品。阿明手下學(xué)員去年售賣(mài)的一款營(yíng)養(yǎng)品標(biāo)價(jià)150元、賺得傭金130元，這是他見(jiàn)過(guò)的最高的傭金比例。另一位運(yùn)營(yíng)者提供的微信截圖顯示，一款標(biāo)價(jià)29.9元、被包裝為“老人味祛除劑”的空氣清新劑，平臺(tái)結(jié)算價(jià)格為19.43元。

“王建國(guó)”的全產(chǎn)鏈?zhǔn)疽鈭D

變種

除了利用“王建國(guó)”的IP直接從中老年群體騙取收益，“王建國(guó)”的運(yùn)營(yíng)者們還轉(zhuǎn)身開(kāi)發(fā)收費(fèi)課程，向也想分得一杯羹的學(xué)員兜售“秘笈”。這股收費(fèi)授課潮集中在2025年2月在各大平臺(tái)爆發(fā)，學(xué)費(fèi)從600元至千元不等。在課程兜售者逐日更新的學(xué)員后臺(tái)獲利截圖里，靠數(shù)字人“王建國(guó)”日入上千元的案例比比皆是。

阿明所在團(tuán)隊(duì)從今年初開(kāi)始，設(shè)置了數(shù)十個(gè)矩陣賬號(hào)用于招收新學(xué)員。宣傳海報(bào)顯示，市場(chǎng)針對(duì)中老年群體已衍生出多種類似“王建國(guó)”IP的帶貨路徑，包含情感、養(yǎng)生、綠植、生肖等。阿明反復(fù)聲稱，入局者只要交納998元“一對(duì)一陪跑”學(xué)費(fèi)后即能穩(wěn)賺不賠。他告訴記者，一般建號(hào)一周左右即能跑通變現(xiàn)，隨著變現(xiàn)能力越來(lái)越強(qiáng)，學(xué)員可創(chuàng)建多個(gè)同類型賬號(hào)。除此之外，他還特別強(qiáng)調(diào)自有專屬供應(yīng)鏈，商品售賣(mài)后次日即可返現(xiàn)，無(wú)需等待平臺(tái)結(jié)算。

阿明向記者展示了學(xué)員在運(yùn)營(yíng)的一個(gè)視頻賬號(hào)，截至5月21日，櫥窗商品已售1528件，跟買(mǎi)632人。商品價(jià)格從6.8元到217元不等，銷(xiāo)量靠前的五款產(chǎn)品分別為發(fā)面酵母、護(hù)膚霜、鹵料包、馬桶疏通神器和發(fā)梳。該視頻賬號(hào)最早發(fā)布于今年2月中旬。

向授課老師交付888元學(xué)費(fèi)的周想，半年內(nèi)只賺了150元，她沒(méi)得到“剪了視頻就能火能掙錢(qián)”的宣傳效果。所謂的全程陪跑，同樣也只是二次剪輯，“啥有用的也沒(méi)教，沒(méi)人跟你說(shuō)核心的東西”。運(yùn)營(yíng)者組建的多個(gè)學(xué)員群內(nèi)，“掙了錢(qián)的就那么幾個(gè)人”；加上賬號(hào)易被封禁，“很多人最后都不干了”。

“只有自己做了之后，你才能知道其實(shí)沒(méi)有那么簡(jiǎn)單。”同樣在學(xué)完課程后沒(méi)有賺到錢(qián)的李天一認(rèn)為，售課老師是通過(guò)付費(fèi)投流，打造個(gè)別變現(xiàn)率極高的學(xué)員賬號(hào)制造了吸睛的假象，“一個(gè)月賣(mài)十幾萬(wàn)GMV（商品交易總額）的都是這么干的。如果這個(gè)東西很容易賺錢(qián)的話，老師為什么要帶你呢？”

靠批量建號(hào)發(fā)布海量視頻來(lái)碰運(yùn)氣的流量游戲，讓本打算只用其作副業(yè)的周想十分后悔。周想告訴記者，能勉強(qiáng)賺到錢(qián)的學(xué)員，每天至少都要在十余個(gè)賬號(hào)發(fā)布三次以上的作品，還要有超好的運(yùn)氣才行。而老師們夸張的話術(shù)和學(xué)員拉一個(gè)人頭即獲三四百元的好處，讓周想所在的教學(xué)營(yíng)人數(shù)還在增加。

付費(fèi)課程的興起和線上教學(xué)營(yíng)的泛濫，后果之一是有越來(lái)越多的新“王建國(guó)”紛紛入局，為爭(zhēng)奪流量而互相廝殺。大量賬號(hào)自稱“其他王建國(guó)是假的”，或?qū)㈥欠Q改為“王建國(guó)本人”。不同賬號(hào)間彼此抄襲、互相舉報(bào)成風(fēng)，為招募學(xué)員盜用同行宣傳物料和潛入同行交流群挖墻角。被舉報(bào)的運(yùn)營(yíng)者們則在賬號(hào)簡(jiǎn)介和朋友圈揚(yáng)言要“清場(chǎng)”，放出狠話“沒(méi)得玩，那就都別玩”。

賬號(hào)下粉絲們的留言

換臉

今年2月，中央網(wǎng)信辦開(kāi)展的“清朗行動(dòng)”，整治AI技術(shù)濫用亂象被列入8項(xiàng)重點(diǎn)任務(wù)之一。一個(gè)月后，多部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求自今年9月1日起對(duì)AI生成內(nèi)容必須添加標(biāo)識(shí)。

上海蘭迪律所丁學(xué)明律師在接受深一度采訪時(shí)表示，“王建國(guó)”們的行為具有明顯的欺詐故意，對(duì)中老年群體因此遭受的財(cái)產(chǎn)損失，賬號(hào)主體應(yīng)承擔(dān)民事賠償責(zé)任。如果欺詐金額大，情節(jié)嚴(yán)重，還可能進(jìn)一步承擔(dān)刑事責(zé)任。

丁學(xué)明表示，數(shù)字人生成平臺(tái)、短視頻平臺(tái)均有責(zé)任加強(qiáng)相關(guān)內(nèi)容生產(chǎn)和傳播的管理。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求深度合成服務(wù)提供者，需采取技術(shù)或者人工方式對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)應(yīng)加強(qiáng)相關(guān)內(nèi)容的生態(tài)治理。

從2月下旬起，各大短視頻平臺(tái)開(kāi)始對(duì)部分“王建國(guó)”的賬號(hào)予以關(guān)停，相關(guān)視頻被清空。3月18日， “建國(guó)弟弟”賬號(hào)被封。此外，另一部分賬號(hào)被限流、限制私信，系統(tǒng)顯示原因?yàn)椤俺鲧R人為AI制作”或“發(fā)布低俗信息”。

面對(duì)日趨嚴(yán)格的審核，記者發(fā)現(xiàn)“王建國(guó)”們的運(yùn)營(yíng)者很快打起了游擊戰(zhàn)。有的賬號(hào)以“王建國(guó)”出差為由將主人公換成其他中年男數(shù)字人，身份是王建國(guó)的朋友、兄弟、領(lǐng)導(dǎo)。“一個(gè)平臺(tái)受到管制就換下一個(gè)，一位數(shù)字人被重點(diǎn)審核就換另一位。”阿明如此說(shuō)。

在“王建國(guó)”被成批量搬運(yùn)到其它平臺(tái)的同時(shí)，運(yùn)營(yíng)人也不忘榨干“王建國(guó)”殘存賬號(hào)的最后一點(diǎn)價(jià)值：從只顯示露半臉的“王建國(guó)”，到在紙上寫(xiě)字和粉絲互動(dòng)——“姐姐幫我沖沖店鋪銷(xiāo)量，漲漲粉，弟弟就能和姐姐見(jiàn)面了”，再到僅有“王建國(guó)”聲音的語(yǔ)音房或真人出鏡。直播間人氣依舊高漲，真人主播們以“王建國(guó)”的侄女、侄子和助理等身份帶貨，收獲著各色禮物和留言區(qū)大段的感謝與關(guān)心，并繼續(xù)編著各種情節(jié)豐富的故事——

從事建筑行業(yè)的“王建國(guó)”去北京出差，剛讀大一的兒子“小海”忙著接受老師批改作業(yè)，女兒“小雅”在外打工，最近幾人不常上線。鏡頭下的微信聊天頁(yè)面，“小海”發(fā)來(lái)的由AI制作的語(yǔ)音被外放，并不斷跳出新消息。面對(duì)大量評(píng)論，“王建國(guó)的侄女”面不改色、對(duì)答如流，在下播前承諾將姐姐們的留言轉(zhuǎn)告“王建國(guó)”……而在這些賬號(hào)的留言區(qū)，依然擠滿了焦急詢問(wèn)“王建國(guó)”下落的中老年女性群體。

【版權(quán)聲明】本作品的著作權(quán)等知識(shí)產(chǎn)權(quán)歸北京青年報(bào)【北青深一度】所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載。

當(dāng)吃這件事“吃”了你

一批螺母訂單牽出的“買(mǎi)賣(mài)槍支案”

學(xué)術(shù)圈“蛋先生”決定“講點(diǎn)真話”