你知道嗎，AI技術(shù)的進步正以前所未有的方式改變著世界，但當海量攜帶算法基因的數(shù)據(jù)涌入我們的視野，我們似乎也陷入了信息合成時代的虛實迷局。當深度偽造內(nèi)容真假難辨，“數(shù)字名人”泛濫成災(zāi)，如何能夠練就“火眼金睛”，防止被AI欺騙？本期視頻，我們一起來聊聊AI內(nèi)容的“身份標簽”。

小王是某電商平臺經(jīng)營者，這兩天，他發(fā)現(xiàn)了直播間流量暴漲的“秘密”。他利用AI技術(shù)將明星的面部表情嫁接到虛擬形象上，再通過語音合成技術(shù)模擬聲音，就能讓“明星”聲情并茂地“表演”直播帶貨。一時間，直播間流量驟增，大量網(wǎng)友信以為真，紛紛受騙下單。

小王的故事并非個例，近期，偽造專家、明星、網(wǎng)絡(luò)名人進行“直播”的行為屢見不鮮，造假門檻大幅降低，虛假的產(chǎn)品宣傳乃至虛假謠言污染著網(wǎng)絡(luò)空間。應(yīng)當明確的是，AI換臉擬聲技術(shù)的不當濫用，既侵犯了公民的肖像權(quán)、聲音權(quán)等合法權(quán)益，也涉嫌構(gòu)成消費欺詐，嚴重擾亂市場經(jīng)濟秩序，損害了廣大消費者合法權(quán)益。

為了推進人工智能領(lǐng)域安全治理、引導(dǎo)技術(shù)向善，國家網(wǎng)信辦等四部門在今年三月聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標識辦法》，辦法規(guī)定了AI生成內(nèi)容的“雙軌標識”制度，用于明確網(wǎng)絡(luò)上的海量信息“哪些是生成的”“誰生成的”以及“從哪里生成的”。

標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識；隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。

對于用戶而言，發(fā)布AI生成合成作品時，應(yīng)當主動聲明并使用服務(wù)提供者提供的標識功能進行標識，禁止人工修改后偽裝原創(chuàng)。

新規(guī)將于2025年9月1日起正式實施。今后，在全媒體平臺發(fā)布AI作品請注意，生成服務(wù)提供者、傳播平臺、用戶三方都將被納入責(zé)任網(wǎng)絡(luò)，利用AI技術(shù)傳播虛假消息、冒充身份信息、惡意生成內(nèi)容均要負法律責(zé)任。

來源：北京海淀法院

（聲明： “法治中原”微信公眾號刊載此文，是出于傳遞更多信息之目的。 若有來源標注錯誤或侵犯了您的合法權(quán)益，請及時與我們聯(lián)系，我們將及時更正或刪除。 ）

喜歡本文，請點這里