大數(shù)據(jù)文摘受權(quán)轉(zhuǎn)載自夕小瑤科技說
2025 年 5 月 1 日,美國亞利桑那州,高級法院。
在一場刑事量刑聽證會上,出現(xiàn)了令人瞠目結(jié)舌的一幕。
受害人 Chris Pelkey 克里斯·佩爾基——一個(gè)在 2021 年槍擊案中不幸喪生的男子,在法官面前,發(fā)表了一段令人動容的陳詞……
“對殺害我的加布里埃爾·霍卡西塔斯來說,很遺憾我們在那天那種情況下相遇。換作另一種人生,我們本可能成為朋友。我信仰寬恕,也信仰寬恕眾生的上帝。過去如此,現(xiàn)在依然...”
這不是科幻電影,而是真實(shí)的法庭記錄。
在視頻里,受害人寬恕了被告,但比內(nèi)容更令人震撼的是逝者開口。
(受害人克里斯·佩爾基生前照片)
這并非佩爾基生前錄制,而是他的家人利用其生前的語音記錄、視頻和照片,通過 AI 技術(shù)在一段視頻中重塑了“他”,并讓他“說出”了上述內(nèi)容。
用 AI 生成數(shù)字替身,有用來娛樂的,有用來詐騙的,有用來紀(jì)念逝者的。但用來在法庭上作證的,這還是歷史上的頭一遭。
然而,主審此案的法官(托德·朗,亞利桑那州法官)不僅接受了這份特殊的“證詞”,甚至公開表示贊賞:
“我很欣賞那段 AI 內(nèi)容,感謝你們。盡管你們充滿憤怒,家屬的憤怒也完全合理,但我聽到了寬恕的聲音,我覺得那是真誠的。”
在犯罪法庭上,在全世界,這次創(chuàng)造了 AI 生成內(nèi)容作為證詞,并且被法庭采納的先例。
這次庭審,引起了軒然大波,在 Reddit、X、YouTube 各大社媒平臺引發(fā)了網(wǎng)友的強(qiáng)烈抗議。
有認(rèn)為這是對死者的極大不尊重,還是對逝者的二次傷害。
“想象一下你被謀殺了,然后你的家人用 AI 讓你說出你從未說過的話,這太可怕了。”
還有網(wǎng)友對法官接受 AI 證詞的行為表示了抗議:
“如果 AI 可以代表受害者,那它是不是也可以代表證人?細(xì)思極恐。”
“NFT 虛擬女友也能作為證人了?”
還有專家表達(dá)了憂慮,這些 AI 生成的內(nèi)容是否能夠與受害者的“意見”一致?
一個(gè)法官,采納 AI 生成的證詞,代表死去的受害人表達(dá)心聲,相當(dāng)荒謬。
那這匪夷所思的 AI 證詞,怎么誕生的呢?
原來,這個(gè)視頻是由受害者的姐姐斯泰西·威爾士精心策劃并提供的。
她請她丈夫和商業(yè)伙伴,從弟弟佩爾基(受害人)生前的網(wǎng)絡(luò)視頻中提取聲音和形象,制作出了這個(gè)數(shù)字分身。而那段“寬恕”的文字腳本,也由斯泰西親自撰寫,最終由 AI“弟弟”溫情脈脈地在法官面前“讀”了出來。
這里就有一個(gè)問題,她為什么要大費(fèi)周章的讓弟弟去“寬恕”對方?
這里我們就要提一下美國法庭的流程(不嚴(yán)謹(jǐn),僅方便大家理解):
第一步,是定罪階段,就是判定被告是否犯罪,犯的是什么罪。
第二步,是量刑階段,對所犯罪給一個(gè)合適的刑罰。
而本案,已經(jīng)進(jìn)入了量刑階段。
也就是說,犯罪分子已經(jīng)被定罪了。
這個(gè) AI 視頻,是在量刑階段被提交到法庭上的,所以:
不會影響對于是否犯罪的界定。只對法庭給出什么樣的刑罰有影響。
按照本案法庭所在的亞利桑那州,在量刑階段,控辯雙方提供各類證據(jù)和陳述,以影響法官的判斷。
受害者方(本案死者的姐姐)可以提供被害人生平多么善良,多么好的證據(jù),增加法官對他的同情,最終達(dá)到期望的量刑水平;加害方同樣,也可以提供各種證據(jù),表明他平時(shí)多么人畜無害,造成一種這只是一失足成千古恨的感覺,最終減低刑罰。
問題來了,斯泰西(受害人的姐姐)為何要大費(fèi)周章,讓“弟弟”在法庭上表達(dá)“寬恕”?
有網(wǎng)友一針見血的指出:
"這是一種高明的策略。表面上是寬恕,實(shí)際上是想通過這種‘圣母’般的姿態(tài),讓法官覺得受害者一家多么善良,從而反襯出兇手的殘暴,最終給兇手判得更重。”

而且,受害者姐姐本人也在采訪(404 Media)中親口承認(rèn):
很顯然,她的目的達(dá)到了。
最終,法官判處了犯罪分子 10.5 年的監(jiān)禁,這比檢方(起訴方)的要求還多了一年。
一個(gè)看似寬容的姿態(tài),卻可能成為爭取更嚴(yán)厲懲罰的砝碼。
這個(gè)案子的判決已定,但是它在美國甚至全世界都拋出了一個(gè)問題——
AI 復(fù)活死者,AI 生成的內(nèi)容,能否作為關(guān)鍵證詞?
美國的法律系統(tǒng)可以說和世界上絕大部分國家不一樣,所以很難說本案對我們的法律會有什么影響。
但我在這里看到了可能更加可怕的東西:
操控。
更具體的說,就是通過 AI 生成的文字,圖片,視頻對個(gè)人,群體意識進(jìn)行有目的影響。
比如用 AI 換臉,模仿他人進(jìn)行詐騙:
如果你認(rèn)為換臉很容易被辨別出來,那請看下面的這個(gè)演示:
上面的視頻,展示了現(xiàn)在實(shí)時(shí)換臉已經(jīng)可以做到毫無延遲并且能夠自動適應(yīng)光線的變化。
還有不久前日喀則地震里一張心痛的照片,用 AI 生成圖片,博取大眾同情心。
還有用 AI 來操控觀點(diǎn)的:
上圖是前幾天,X 的 Grok 機(jī)器人發(fā)帖,試圖影響人們對某一個(gè)政治議題的觀點(diǎn),當(dāng)然,這個(gè)很快被人發(fā)現(xiàn)。(我們前一篇文章詳細(xì)報(bào)告了這個(gè)事件的始末)
下面這個(gè)可就厲害了:
馬斯克本人都對此感到驚訝,蘇黎世大學(xué)在一個(gè)由 390 萬成員的 Reddit 組群里,通過機(jī)器人發(fā)表言論,試圖影響群內(nèi)成員的觀點(diǎn)。
可怕的是,390 萬人中,沒有任何一個(gè)人發(fā)現(xiàn)這一行為,直到蘇黎世大學(xué)自己公布了這一研究。
其實(shí),這種類似的操控,一直都有。
但通過 AI 技術(shù),可以比原來更大規(guī)模,更低成本,更加令人信服的方式的進(jìn)行類似的行為。
回到這起案件本身。這次,AI 視頻被用于量刑階段。但下一次呢?
如果出現(xiàn)在定罪階段,當(dāng) AI 能夠完美模擬逝者的音容笑貌,甚至“表達(dá)”其生前未曾言明的意愿時(shí),我們又該如何分辨真實(shí)與虛構(gòu)的界限?
這扇門一旦打開,背后可能就是萬丈深淵。
GPU算力按需租用
A100/H100 GPU算力按需租用,
秒級計(jì)費(fèi),平均節(jié)省開支30%以上!
掃碼了解詳情?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.