全紅嬋家要建新房？

該消息尚未得到證實(shí)

相關(guān)的AI合成視頻卻

已在社交平臺(tái)上流傳

并以此收割流量帶貨

近日，有賬號(hào)在社交平臺(tái)發(fā)布圖文作品，稱為奧運(yùn)冠軍全紅嬋家承建新房，且即將開(kāi)工，并在評(píng)論區(qū)回應(yīng)網(wǎng)友消息“千真萬(wàn)確”。

此前在接受媒體采訪時(shí)，全紅嬋媽媽曾表示，自己的愿望是在村里蓋一個(gè)房子，讓孩子們回來(lái)能有房間住。

關(guān)于全紅嬋家建造新房消息是否屬實(shí)，廣東湛江麻章區(qū)政府相關(guān)部門(mén)及自稱承建新房方，目前尚未對(duì)外有明確答復(fù)。

然而，在社交平臺(tái)上已經(jīng)出現(xiàn)多個(gè)賬號(hào)使用AI合成的全紅嬋爸爸、哥哥聲音，用完全相同的文案介紹家里要蓋新房，以此來(lái)博取流量。

在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接，流量較好的仿冒作品評(píng)論區(qū)中，不乏有人被騙下單購(gòu)買。

全紅嬋父母與哥哥。圖源：九派新聞

此前曾有多位明星被AI侵權(quán)

利用AI偽造視頻的現(xiàn)象并不罕見(jiàn)，此前，曾有多位明星成為AI偽造視頻的素材。

3月3日，有網(wǎng)友向演員劉曉慶反饋有人在視頻號(hào)AI生成視頻假冒她。

劉曉慶轉(zhuǎn)發(fā)并配文：“天哪，我點(diǎn)進(jìn)去看了一下，畫(huà)面是我，聲音很像我，但不是我！這是怎么做到的？大家以后不會(huì)搞不清楚哪個(gè)才是真的我了吧？我在各個(gè)平臺(tái)都叫劉曉慶！”

今年3月，有線上游戲平臺(tái)利用AI技術(shù)，將演員古天樂(lè)、林峯的肖像、聲音及過(guò)往視頻片段，合成制作為帶有賭博性質(zhì)的代言宣傳片。古天樂(lè)、林峯“被代言”的游戲平臺(tái)雖然名稱不同，但各自發(fā)布的“代言宣傳片”風(fēng)格相似：講代言臺(tái)詞的聲線和口音聽(tīng)得出均刻意模仿本人，尤其模仿了古天樂(lè)“港普”的特色，但整體畫(huà)面制作頗為粗糙，藝人講臺(tái)詞的嘴形僵硬不自然，AI合成痕跡十分明顯。

3月5日，兩人的經(jīng)紀(jì)公司先后發(fā)布聲明，指出該宣傳片為合成影片，否認(rèn)其與有關(guān)游戲平臺(tái)合作，或代言、推廣它們的業(yè)務(wù)，提醒各方人士不要輕信，以免上當(dāng)受騙。

4月18日，女演員張馨予在社交平臺(tái)發(fā)文，稱有商家利用AI技術(shù)復(fù)制其聲音售賣減肥藥，引發(fā)關(guān)注。

張馨予表示：“近期發(fā)現(xiàn)有品牌Ai復(fù)制我的聲音，未經(jīng)授權(quán)編造剪輯廣告視頻，還有減肥藥廣告，我覺(jué)得這樣的行為很惡劣。在此說(shuō)明我從來(lái)沒(méi)有推薦過(guò)任何減肥藥，有商家利用Ai技術(shù)非法剪輯投放廣告，我一定追究到底。”

9月起，AI生成內(nèi)容須添加標(biāo)識(shí)

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)聯(lián)手發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（簡(jiǎn)稱《標(biāo)識(shí)辦法》），并定于2025年9月1日起正式施行。

《標(biāo)識(shí)辦法》明確了服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。

來(lái)源：南方日?qǐng)?bào)、九派新聞、藍(lán)鯨新聞、經(jīng)濟(jì)參考網(wǎng)、荊楚網(wǎng)