大數(shù)據(jù)文摘受權(quán)轉(zhuǎn)載自夕小瑤科技說

2025 年 5 月 1 日，美國亞利桑那州，高級法院。

在一場刑事量刑聽證會上，出現(xiàn)了令人瞠目結(jié)舌的一幕。

受害人 Chris Pelkey 克里斯·佩爾基——一個(gè)在 2021 年槍擊案中不幸喪生的男子，在法官面前，發(fā)表了一段令人動容的陳詞……

“對殺害我的加布里埃爾·霍卡西塔斯來說，很遺憾我們在那天那種情況下相遇。換作另一種人生，我們本可能成為朋友。我信仰寬恕，也信仰寬恕眾生的上帝。過去如此，現(xiàn)在依然...”

這不是科幻電影，而是真實(shí)的法庭記錄。

在視頻里，受害人寬恕了被告，但比內(nèi)容更令人震撼的是逝者開口。

（受害人克里斯·佩爾基生前照片）

這并非佩爾基生前錄制，而是他的家人利用其生前的語音記錄、視頻和照片，通過 AI 技術(shù)在一段視頻中重塑了“他”，并讓他“說出”了上述內(nèi)容。

用 AI 生成數(shù)字替身，有用來娛樂的，有用來詐騙的，有用來紀(jì)念逝者的。但用來在法庭上作證的，這還是歷史上的頭一遭。

然而，主審此案的法官（托德·朗，亞利桑那州法官）不僅接受了這份特殊的“證詞”，甚至公開表示贊賞：

“我很欣賞那段 AI 內(nèi)容，感謝你們。盡管你們充滿憤怒，家屬的憤怒也完全合理，但我聽到了寬恕的聲音，我覺得那是真誠的。”

在犯罪法庭上，在全世界，這次創(chuàng)造了 AI 生成內(nèi)容作為證詞，并且被法庭采納的先例。

這次庭審，引起了軒然大波，在 Reddit、X、YouTube 各大社媒平臺引發(fā)了網(wǎng)友的強(qiáng)烈抗議。

有認(rèn)為這是對死者的極大不尊重，還是對逝者的二次傷害。

“想象一下你被謀殺了，然后你的家人用 AI 讓你說出你從未說過的話，這太可怕了。”

還有網(wǎng)友對法官接受 AI 證詞的行為表示了抗議：

“如果 AI 可以代表受害者，那它是不是也可以代表證人？細(xì)思極恐。”

“NFT 虛擬女友也能作為證人了？”

還有專家表達(dá)了憂慮，這些 AI 生成的內(nèi)容是否能夠與受害者的“意見”一致？

一個(gè)法官，采納 AI 生成的證詞，代表死去的受害人表達(dá)心聲，相當(dāng)荒謬。

那這匪夷所思的 AI 證詞，怎么誕生的呢？

原來，這個(gè)視頻是由受害者的姐姐斯泰西·威爾士精心策劃并提供的。

她請她丈夫和商業(yè)伙伴，從弟弟佩爾基（受害人）生前的網(wǎng)絡(luò)視頻中提取聲音和形象，制作出了這個(gè)數(shù)字分身。而那段“寬恕”的文字腳本，也由斯泰西親自撰寫，最終由 AI“弟弟”溫情脈脈地在法官面前“讀”了出來。

這里就有一個(gè)問題，她為什么要大費(fèi)周章的讓弟弟去“寬恕”對方？

這里我們就要提一下美國法庭的流程（不嚴(yán)謹(jǐn)，僅方便大家理解）：

第一步，是定罪階段，就是判定被告是否犯罪，犯的是什么罪。

第二步，是量刑階段，對所犯罪給一個(gè)合適的刑罰。

而本案，已經(jīng)進(jìn)入了量刑階段。

也就是說，犯罪分子已經(jīng)被定罪了。

這個(gè) AI 視頻，是在量刑階段被提交到法庭上的，所以：

不會影響對于是否犯罪的界定。只對法庭給出什么樣的刑罰有影響。

按照本案法庭所在的亞利桑那州，在量刑階段，控辯雙方提供各類證據(jù)和陳述，以影響法官的判斷。

受害者方(本案死者的姐姐)可以提供被害人生平多么善良，多么好的證據(jù)，增加法官對他的同情，最終達(dá)到期望的量刑水平；加害方同樣，也可以提供各種證據(jù)，表明他平時(shí)多么人畜無害，造成一種這只是一失足成千古恨的感覺，最終減低刑罰。

問題來了，斯泰西（受害人的姐姐）為何要大費(fèi)周章，讓“弟弟”在法庭上表達(dá)“寬恕”？

有網(wǎng)友一針見血的指出：

"這是一種高明的策略。表面上是寬恕，實(shí)際上是想通過這種‘圣母’般的姿態(tài)，讓法官覺得受害者一家多么善良，從而反襯出兇手的殘暴，最終給兇手判得更重。”

而且，受害者姐姐本人也在采訪（404 Media）中親口承認(rèn)：

很顯然，她的目的達(dá)到了。

最終，法官判處了犯罪分子 10.5 年的監(jiān)禁，這比檢方（起訴方）的要求還多了一年。

一個(gè)看似寬容的姿態(tài)，卻可能成為爭取更嚴(yán)厲懲罰的砝碼。

這個(gè)案子的判決已定，但是它在美國甚至全世界都拋出了一個(gè)問題——

AI 復(fù)活死者，AI 生成的內(nèi)容，能否作為關(guān)鍵證詞？

美國的法律系統(tǒng)可以說和世界上絕大部分國家不一樣，所以很難說本案對我們的法律會有什么影響。

但我在這里看到了可能更加可怕的東西：

操控。

更具體的說，就是通過 AI 生成的文字，圖片，視頻對個(gè)人，群體意識進(jìn)行有目的影響。

比如用 AI 換臉，模仿他人進(jìn)行詐騙：

如果你認(rèn)為換臉很容易被辨別出來，那請看下面的這個(gè)演示：

上面的視頻，展示了現(xiàn)在實(shí)時(shí)換臉已經(jīng)可以做到毫無延遲并且能夠自動適應(yīng)光線的變化。

還有不久前日喀則地震里一張心痛的照片，用 AI 生成圖片，博取大眾同情心。

還有用 AI 來操控觀點(diǎn)的：

上圖是前幾天，X 的 Grok 機(jī)器人發(fā)帖，試圖影響人們對某一個(gè)政治議題的觀點(diǎn)，當(dāng)然，這個(gè)很快被人發(fā)現(xiàn)。（我們前一篇文章詳細(xì)報(bào)告了這個(gè)事件的始末）

下面這個(gè)可就厲害了：

馬斯克本人都對此感到驚訝，蘇黎世大學(xué)在一個(gè)由 390 萬成員的 Reddit 組群里，通過機(jī)器人發(fā)表言論，試圖影響群內(nèi)成員的觀點(diǎn)。

可怕的是，390 萬人中，沒有任何一個(gè)人發(fā)現(xiàn)這一行為，直到蘇黎世大學(xué)自己公布了這一研究。

其實(shí)，這種類似的操控，一直都有。

但通過 AI 技術(shù)，可以比原來更大規(guī)模，更低成本，更加令人信服的方式的進(jìn)行類似的行為。

回到這起案件本身。這次，AI 視頻被用于量刑階段。但下一次呢？

如果出現(xiàn)在定罪階段，當(dāng) AI 能夠完美模擬逝者的音容笑貌，甚至“表達(dá)”其生前未曾言明的意愿時(shí)，我們又該如何分辨真實(shí)與虛構(gòu)的界限？

這扇門一旦打開，背后可能就是萬丈深淵。

GPU算力按需租用

A100/H100 GPU算力按需租用，

秒級計(jì)費(fèi)，平均節(jié)省開支30%以上！

掃碼了解詳情?