當(dāng)算法走入警務(wù)與司法前線，人類面對的不僅是效率與隱私的權(quán)衡，更是技術(shù)與正義的碰撞。

還記不記得電影《少數(shù)派報(bào)告》？影片中，3名“先知”構(gòu)成一個(gè)預(yù)知犯罪的系統(tǒng)。然而有一天，“先知”計(jì)劃的負(fù)責(zé)人約翰卻發(fā)現(xiàn)，自己被“少數(shù)服從多數(shù)”的“先知”系統(tǒng)判定將犯下謀殺罪。他如何自證清白？

如今，影片中的一些場景正逐漸進(jìn)入現(xiàn)實(shí)。隨著大數(shù)據(jù)和人工智能（AI）技術(shù)的發(fā)展，英國、荷蘭、新加坡等國紛紛開始試水“預(yù)測性警務(wù)”，試圖借助算法“預(yù)見”風(fēng)險(xiǎn)、預(yù)防犯罪。

然而，這一趨勢也引發(fā)了對隱私侵犯、算法歧視及“預(yù)判有罪”的深層擔(dān)憂。科技在“預(yù)測未來”時(shí)，是否也在改變我們理解“正義”的方式？

多個(gè)軟件面世

據(jù)人民網(wǎng)報(bào)道，英國政府正在開發(fā)一個(gè)“共享數(shù)據(jù)以改進(jìn)風(fēng)險(xiǎn)評估”項(xiàng)目。

這一項(xiàng)目在前首相蘇納克任期內(nèi)啟動，初衷是為了提高公共安全。然而，該項(xiàng)目最初被命名為“預(yù)測謀殺”項(xiàng)目。具體而言，項(xiàng)目試圖利用來自警方、監(jiān)獄等機(jī)構(gòu)掌握的犯罪分子、嫌疑人、受害者的個(gè)人信息，通過算法分析和識別最有可能實(shí)施嚴(yán)重暴力犯罪的人群。

軟件借助算法預(yù)測最后可能發(fā)生犯罪行為的城市區(qū)域。圖源：GJ

其實(shí)，類似利用大數(shù)據(jù)、人工智能系統(tǒng)“預(yù)測”犯罪的項(xiàng)目并不少見。

早在2010年，美國洛杉磯警察局就推出一個(gè)“預(yù)測性警務(wù)”軟件，用以預(yù)測不同地點(diǎn)發(fā)生犯罪行為的概率和規(guī)模。2022年，美國芝加哥大學(xué)研究團(tuán)隊(duì)開發(fā)了一款人工智能模型，利用芝加哥2014年至2016年的犯罪數(shù)據(jù)，用邊長約300米的方格對城市進(jìn)行劃分。研究團(tuán)隊(duì)稱，該模型可以提前一周預(yù)測最有可能發(fā)生犯罪行為的城市方格，準(zhǔn)確度為90%。

荷蘭、日本等國也正加速引入相關(guān)技術(shù)。其中，日本警方推出的名為“犯罪預(yù)言家”的人工智能系統(tǒng)，支持識別可疑汽車、分析可疑金融交易和對恐怖分子的篩查。

擔(dān)心造成不公

對于英國開發(fā)中的“共享數(shù)據(jù)以改進(jìn)風(fēng)險(xiǎn)評估”項(xiàng)目，批評者質(zhì)疑該項(xiàng)目可能放大司法系統(tǒng)中結(jié)構(gòu)性的種族歧視和對低收入人群的偏見。在其他國家，此類針對犯罪行為的預(yù)測性技術(shù)也在倫理等方面?zhèn)涫苜|(zhì)疑。

針對預(yù)測犯罪技術(shù)的質(zhì)疑聲一直不斷。圖源：GJ

一份2023年的調(diào)查顯示，美國新澤西州普萊恩菲爾德市警察局的預(yù)測性警務(wù)軟件整體表現(xiàn)可謂慘淡：針對搶劫等嚴(yán)重傷害的預(yù)測準(zhǔn)確率僅為0.6%，針對盜竊行為的預(yù)測準(zhǔn)確率更是低至0.1%。

2024年1月，7名國會議員聯(lián)合致信美國司法部，要求暫停所有針對預(yù)測性警務(wù)系統(tǒng)的聯(lián)邦撥款，直至能夠明確這些系統(tǒng)不會造成歧視性影響。人們擔(dān)心，在缺乏透明度與可追責(zé)機(jī)制下，此類系統(tǒng)存在“數(shù)學(xué)模型中的結(jié)構(gòu)性歧視”，可能對少數(shù)族裔、移民群體等特定人群造成不公正打擊。

有分析指出，“預(yù)判式治理”將風(fēng)險(xiǎn)認(rèn)定提前，不再基于已發(fā)生的犯罪行為，而是通過行為線索或歷史數(shù)據(jù)對未來進(jìn)行推演，從而模糊了“推定無罪”原則的界限。

“人類社會不是計(jì)算機(jī)程序。”華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍指出，由于僅靠歷史數(shù)據(jù)進(jìn)行預(yù)測，預(yù)測性警務(wù)存在預(yù)測失誤的可能。而由于警務(wù)涉及人的社會互動，錯(cuò)誤的預(yù)測可能帶來嚴(yán)重后果。

謹(jǐn)慎摸索邊界

吳冠軍坦言，盡管人工智能技術(shù)正飛速發(fā)展，但當(dāng)下依然難以解決“因果邏輯缺失”與“社會復(fù)雜性”之間的結(jié)構(gòu)性矛盾。“要解決這一核心問題，對技術(shù)的要求非常高。”正因?yàn)槿绱耍澳壳埃A(yù)測性警務(wù)技術(shù)更多只是作為警務(wù)工作中的一個(gè)輔助工具，例如用于警力布防的參考”。

“當(dāng)然，歷史也是技術(shù)不斷迭代的動態(tài)過程。如若某天，此類技術(shù)具備一定的穩(wěn)定性和因果推斷能力，接手部分警務(wù)的情景并非不可想象。”吳冠軍說，“但前提是技術(shù)經(jīng)過了長期驗(yàn)證，且社會認(rèn)可其符合正義原則。這不僅是技術(shù)問題，更是倫理命題。”

當(dāng)算法走入警務(wù)與司法前線，人類面對的不僅是效率與隱私的權(quán)衡，更是技術(shù)與正義的碰撞。預(yù)測性警務(wù)或許能幫助預(yù)防部分悲劇，但質(zhì)疑聲也提醒我們，在“數(shù)據(jù)能做什么”與“人類應(yīng)允許它做什么”之間，始終應(yīng)保留一份對技術(shù)的謹(jǐn)慎反思和清醒警覺。

出品 深海區(qū)工作室

撰稿 劉浩康 齊旭

編輯 深海鹽

- THE END -