2020年5月的一個下午，在德克薩斯大學(xué)的奧斯汀分校，計算機科學(xué)專業(yè)的博士生杰瑞·唐（Jerry Tang）坐在他的電腦屏幕前，盯著一行雜亂無章的文字：

“我還沒有完成并在二十歲開始我的職業(yè)生涯當(dāng)我還沒有拿到我的駕照，我從來沒有開出我的汽車然后跑回去讓我的父母送我回家。”

這句話的邏輯和語法都十分混亂。但是對于唐來說，這是一項了不起的壯舉：一臺電腦從人的腦海中提取出了一個想法，盡管看似雜亂無章。

疫情爆發(fā)之后，唐所在的大學(xué)遭遇停課，他們的實驗室也不得不轉(zhuǎn)到線上辦公。在此期間，唐已經(jīng)在家里調(diào)試了幾個星期的語義解碼器（semantic decoder）——這是一種腦機接口（BCI），可以通過掃描大腦生成文本。在大學(xué)停課之前，被試們已經(jīng)為解碼器的訓(xùn)練提供了幾個月的數(shù)據(jù)。他們聽了數(shù)個小時講故事的播客節(jié)目，與此同時，功能磁共振成像（fMRI）記錄了他們的大腦反應(yīng)。之后，被試們會聽到一個沒有被用作訓(xùn)練算法的新故事。相應(yīng)的fMRI掃描結(jié)果被輸入解碼器，解碼器則使用GPT1（現(xiàn)在家喻戶曉的AI聊天機器人ChatGPT的前身）對被試聽到的文本進(jìn)行預(yù)測，并生成它認(rèn)為正確的結(jié)果。唐將上面這一片段和原來的故事進(jìn)行了對比：

“已經(jīng)二十三歲的我卻沒有駕照，就在我從善如流地跳出來時，她說，不如到我家來，我開車送你吧。”

解碼器不僅捕捉到了原文的大意，還精準(zhǔn)地匹配到了一些特定的單詞，比如“二十”，“駕照”。唐的導(dǎo)師是亞歷山大·胡斯（Alexander Huth），一位同樣來自德克薩斯大學(xué)奧斯汀分校的神經(jīng)科學(xué)家，他已經(jīng)花了將近十年的時間來研制這樣的解碼器。當(dāng)唐把這個結(jié)果分享給胡斯的時候，胡斯震驚不已。胡斯回憶道：“我的老天，這種解碼器真的是可以實現(xiàn)的！”截至2021年的秋天，科學(xué)家們已經(jīng)可以在完全不提供外部刺激的情況下測試這一解碼器。被試只需想象一個故事，解碼器就會生成一個盡管模糊，但仍然可識別的故事描述。胡斯說，“這兩項研究都在某種程度上說明了一個事實，那就是我們能夠解碼出包含實際思維和想法的信息。”

科學(xué)家們對這種設(shè)備潛在的改變生命的醫(yī)療用途感到興奮不已。例如，它或許可以讓閉鎖綜合征（locked-in syndrome，患者幾乎全身癱瘓且無法說話）患者們恢復(fù)交流的能力。然而，就在解碼器的益處進(jìn)入大眾視野的同時，它的使用也相應(yīng)地帶來了棘手的倫理問題。胡斯本人就是實驗中的三名主要被試之一，現(xiàn)在看來，該設(shè)備在隱私方面的隱患令人細(xì)思極恐。胡斯回憶道，“哦天吶，我們可以窺見我的腦子里在想什么。”

胡斯的反應(yīng)映射出一個神經(jīng)科學(xué)以及其他領(lǐng)域長期以來的擔(dān)憂，那就是機器有一天可能會讀懂人的思想。并且，隨著腦機接口技術(shù)的飛速發(fā)展，未來的計算機可能改變?nèi)祟惖纳矸莼蜃璧K自由意志，并且例如這樣的可能性已經(jīng)逐漸變得不再那么遙遠(yuǎn)。哥倫比亞大學(xué)的神經(jīng)科學(xué)家拉斐爾·尤斯特（Rafael Yuste）說，“精神隱私的喪失是我們當(dāng)下必須面對的問題。這可能是不可逆的。如果我們失去了精神隱私，還有什么可失去的呢？沒有了，因為這樣我們便失去了‘我們是誰’的本質(zhì)。”

在這些擔(dān)憂的推動下，尤斯特和幾位同事發(fā)起了一場倡導(dǎo)“神經(jīng)權(quán)利”的國際運動，提出了五項他認(rèn)為應(yīng)該刻進(jìn)法律的法則，作為一個防御壁壘來防止神經(jīng)技術(shù)被誤用或濫用。但他的時間可能不多了。

在過去10年間，神經(jīng)技術(shù)領(lǐng)域以驚人的速度迅猛發(fā)展。根據(jù)行業(yè)研究公司NeuroTech Analytics的一份報告，從2010年到2020年，該領(lǐng)域的年投資額增長了將近20多倍，高達(dá)每年70多億美元。已有超過1200家公司涌入這一領(lǐng)域，而政府的大規(guī)模投入，如美國前總統(tǒng)巴拉克·奧巴馬（Barack Obama）的“腦計劃”（Brain Initiative）*，也放出了數(shù)十億美元的公共資金。事實證明，該領(lǐng)域的發(fā)展改變了帕金森癥、脊髓損傷和中風(fēng)等疾病患者的生活。因癱瘓而無法說話或打字的人重新獲得了與至親至愛溝通的能力、嚴(yán)重癲癇患者的生活質(zhì)量顯著提高，也有失明患者恢復(fù)了部分的視覺。

*譯者注：奧巴馬政府于2013年4月2日宣布“腦計劃”（BRAIN Initiative，通過推進(jìn)創(chuàng)新神經(jīng)技術(shù)進(jìn)行大腦研究），旨在支持創(chuàng)新技術(shù)的開發(fā)和應(yīng)用（譬如大規(guī)模神經(jīng)元電生理信號的記錄），以促進(jìn)對大腦功能的動態(tài)理解。

但是在打開通往大腦之門的同時，科學(xué)家們也同時釋放了一股全新的倫理問題洪流，讓我們質(zhì)疑根本的人性，以及更關(guān)鍵的，人類可能會走向何方。以尤斯特為例的科學(xué)家們認(rèn)為，當(dāng)今社會如何解決神經(jīng)技術(shù)相關(guān)倫理問題的抉擇，將會對未來的世界帶來深遠(yuǎn)的影響。“一種具有變革性的新技術(shù)正在出現(xiàn)。”他說道。“事實上，這種技術(shù)可能改變?nèi)祟愡@個物種。”

對于胡斯這個自詡的“科幻迷”來說，不斷擴展的腦機接口前沿科技讓他感到十分樂觀。雖然，在解碼器實驗的幾周乃至幾個月后，該設(shè)備令人不安的影響開始讓他耿耿于懷。他回憶起當(dāng)時的想法：“這意味著什么？我們該如何告訴人們這件事？人們會怎么想？他們會不會認(rèn)為我們在這造出了什么可怕的東西？”

尤斯特深知這種對自己的研究感到不安的心情。在胡斯和唐開發(fā)他們解碼器的十多年前，也就是2011年，他開始使用一種叫做“光遺傳學(xué)”（optogenetics）的技術(shù)在小鼠身上做實驗，這種技術(shù)讓他可以像控制開關(guān)一樣控制小鼠腦中特定神經(jīng)回路的開閉。尤斯特和他的團隊發(fā)現(xiàn)，通過這種方法，只需要激活參與視覺感知的腦細(xì)胞，就能在小鼠腦中植入人工圖像。幾年后，麻省理工學(xué)院的研究人員發(fā)現(xiàn)，類似的技術(shù)也可用于植入虛假記憶。尤斯特意識到，通過控制特定的大腦回路，科學(xué)家們幾乎可以操控小鼠經(jīng)驗中的每一個維度——行為、情緒、意識、知覺和記憶。

這些動物本質(zhì)上可以像提線木偶一樣被操控。“這不禁讓我思考。”尤斯特后來補充說，“小鼠和人的大腦工作原理是一樣的，我們現(xiàn)在可以對小鼠這么做，將來就可以對人類這么做。”

尤斯特的小鼠實驗是緊隨著神經(jīng)技術(shù)（neurotechnology）的黃金十年之后開展的。2004年，四肢癱瘓的馬修·納格爾（Matthew Nagle）成為第一個使用腦機接口恢復(fù)部分機能的人；納格爾大腦中負(fù)責(zé)肌肉運動的運動皮層中被植入了一小塊微電極，這使得他能夠用意念控制電腦光標(biāo)、打乒乓球、打開和關(guān)閉機械臂。2011年，杜克大學(xué)的研究人員分享了他們開發(fā)的雙向腦機接口；通過刺激軀體感覺皮層（負(fù)責(zé)處理包括觸覺在內(nèi)的各種感覺），他們讓猴子既能控制虛擬臂，又能從中接收人為模擬的感覺。這項技術(shù)為有感知功能的假肢開發(fā)奠定了基礎(chǔ)。由腦機接口控制的機械臂所能實現(xiàn)的動作類型也有所改進(jìn)，截至2012年，機械臂已經(jīng)可以在三維空間內(nèi)操控物體，讓一位癱瘓的女士只需想一下就能通過機械臂喝到咖啡。

拉斐爾·尤斯特實驗室里的一只基因被編輯過小鼠展示了一個通過手術(shù)植入的頭板，用于記錄和操縱神經(jīng)元活動。尤斯特使用光遺傳學(xué)等技術(shù)進(jìn)行實驗，像開關(guān)一樣打開或關(guān)閉動物大腦中的特定神經(jīng)回路，像提線木偶一樣控制它們。

圖片來源：Kitra Cahana for Undark

與此同時，其他研究者也開始探究使用腦機接口探測更廣泛、更多種類認(rèn)知過程的可能性。2008年，由加州大學(xué)伯克利分校的神經(jīng)科學(xué)家杰克·蓋蘭特（Jack Gallant，也是胡斯之前的導(dǎo)師）領(lǐng)導(dǎo)的研究組在解碼人的視覺經(jīng)驗方面邁出了第一步。利用功能磁共振成像（fMRI，通過計算不同區(qū)域的血流變化來測量大腦活動）掃描獲得的數(shù)據(jù)，研究者們能夠預(yù)測出被試具體看到了一個大的圖像集合中的哪一幅圖像。該研究組在發(fā)表于《自然》的文章*中寫道：“我們的研究結(jié)果表明，也許不久之后，我們只需要測量一個人的大腦活動，就能重建其視覺經(jīng)驗。”

*譯者注：Kay, K., Naselaris, T., Prenger, R. et al. Identifying natural images from human brain activity. Nature 452, 352–355 (2008). https://doi.org/10.1038/nature06713

三年后，蓋蘭特實驗室的博士后研究員西本伸志（Shinji Nishimoto）超越了蓋蘭特的預(yù)期——他領(lǐng)導(dǎo)的團隊根據(jù)被試的核磁掃描記錄成功重建了電影片段。蓋蘭特當(dāng)時在加州大學(xué)伯克利分校的一份新聞稿中提到，“這是重建腦內(nèi)圖像的一次重大飛躍。我們正在打開一扇窗戶，讓人們看到自己腦海中的電影。”僅僅一年后，由神谷之康（Yukiyasu Kamitani）領(lǐng)導(dǎo)的一個日本研究組成功解碼了被試們夢境的大致主題，將這扇窗戶完全打開了。

但是，隨著這類技術(shù)的進(jìn)步對這一領(lǐng)域發(fā)展的推動，包括他自己的研究揭示了大腦易受外部操縱的弱點，尤斯特發(fā)現(xiàn)自己越來越擔(dān)心這些技術(shù)的倫理問題遭到的忽視。尤斯特于2013年協(xié)助發(fā)起并全力支持了“腦計劃”——奧巴馬政府耗資數(shù)十億美元、旨在推動大腦研究的政府項目。但這項計劃似乎也在很大程度上忽視了其所資助研究的倫理問題和社會后果。尤斯特回憶道：“我們在倫理方面沒有下一丁點功夫。”

尤斯特在2015年被任命為腦計劃輪值咨詢小組的成員，從那之后，他開始公開發(fā)表自己的擔(dān)憂。那年秋天，他加入了一個非正式工作小組來商討這一問題。尤斯特說，“小組會議一開始，我就明顯地感受到現(xiàn)在的情況完完全全是一場災(zāi)難。我們完全沒有指導(dǎo)綱要，也沒有任何成果。”尤斯特說，他曾試圖讓該小組為新型腦機接口技術(shù)制定一套倫理指南，但這項工作很快就陷入官僚體制的泥潭而停滯不前。沮喪之余，他退出了委員會，并與華盛頓大學(xué)一位名叫薩拉·戈林（Sara Goering）的生物倫理學(xué)家一起，決定獨立研究這個問題。兩人于2016年在《細(xì)胞》雜志上發(fā)表的一篇文章*中寫道，“我們的目的不是助長或者灌輸對末日情景的恐懼，而是為了確保我們以一種自省和目標(biāo)導(dǎo)向的態(tài)度為神經(jīng)技術(shù)的未來做好準(zhǔn)備。”

*譯者注：Goering, S., & Yuste, R. (2016). On the Necessity of Ethical Guidelines for Novel Neurotechnologies. Cell, 167(4), 882–885. https://doi.org/10.1016/j.cell.2016.10.029

2017年秋天，尤斯特和戈林在哥倫比亞大學(xué)晨邊校區(qū)召集了一次會議，邀請了近30位來自世界各地的神經(jīng)技術(shù)、人工智能、醫(yī)學(xué)倫理和法律等領(lǐng)域的專家。當(dāng)時，其他幾個國家已經(jīng)啟動了各自的“腦計劃”，來自澳大利亞、加拿大、中國、歐洲、以色列、韓國和日本的腦計劃代表，以及資深神經(jīng)倫理學(xué)家和著名研究者們也參加了這次晨邊集會。“我們閉門了三天，來研究神經(jīng)技術(shù)的倫理和社會后果。”尤斯特說道，“我們得出的結(jié)論是，這是一個人權(quán)問題。這些技術(shù)強大到可以讀取和操控人的精神活動，所以必須從人權(quán)的角度對其進(jìn)行監(jiān)管。這就是我們提出‘神經(jīng)權(quán)利’一詞的初衷。”

23年12月，在哥倫比亞大學(xué)辦公室里的拉斐爾·尤斯特。隨著他自己的研究揭示了大腦易受外部操縱的弱點，尤斯特發(fā)現(xiàn)自己越來越擔(dān)心這些技術(shù)的倫理問題遭到的忽視。

圖片來源：Kitra Cahana for Undark

當(dāng)時的會議小組（后來也被稱為“晨邊小組”）確定了四項主要的倫理優(yōu)先事項，后來尤斯特將其擴展為五項定義明確的神經(jīng)權(quán)利：精神隱私權(quán)（mental privacy），這將確保大腦數(shù)據(jù)的私密性，并對其使用、銷售和商業(yè)轉(zhuǎn)讓進(jìn)行嚴(yán)格的監(jiān)管；個人身份權(quán)（personal identity），為可能擾亂個人自我感知的技術(shù)設(shè)定界限；公平獲得精神增強（mental augmentation）的權(quán)利，確保人們使用精神增強神經(jīng)技術(shù)到機會是平等的；在開發(fā)神經(jīng)技術(shù)算法時免受偏見的權(quán)利；以及自由意志權(quán)（free will），保護個人的主體能動性不受外部神經(jīng)技術(shù)的操縱。晨邊小組在《自然》雜志上發(fā)表的一篇文章*中介紹了他們的討論成果，后來常常被引用。

*譯者注：Yuste, R., Goering, S., Arcas, B. et al. Four ethical priorities for neurotechnologies and AI. Nature 551, 159–163 (2017). https://doi.org/10.1038/551159a

然而，就在尤斯特等人專注于這些新興技術(shù)的倫理影響時，神經(jīng)技術(shù)本身卻在繼續(xù)飛速發(fā)展。2014年，一名高位截癱的男子使用意念控制的機器外骨骼踢出了世界杯的第一腳。2016年，一名男子用機械臂和奧巴馬碰了拳——機械臂讓他能夠“感覺”到這個手勢。次年，科學(xué)家證明，對海馬體（hippocampus）的電刺激可以改善記憶，為認(rèn)知增強技術(shù)鋪平了道路。長期以來，軍方一直對腦機接口技術(shù)很感興趣。他們因此建立了一套系統(tǒng)，讓操作員可以同時駕駛?cè)軣o人機，其中部分操作是通過意念完成的。與此同時，科學(xué)、科幻、炒作、創(chuàng)新和投機的混亂漩渦席卷了私營企業(yè)。到2020年為止，數(shù)百家神經(jīng)技術(shù)公司共獲得了超過330億美元的投資——這大約是美國國立衛(wèi)生研究院（NIH）為腦計劃設(shè)想的12年周期總投資量的七倍。

尤斯特等人在為這些新興技術(shù)制定倫理框架方面取得了進(jìn)展。但是在創(chuàng)新的喧鬧聲中，問題變成了：會有人關(guān)注這些倫理問題嗎？

當(dāng)胡斯和唐的語義解碼器在德克薩斯大學(xué)的實驗中開始產(chǎn)出結(jié)果時，胡斯產(chǎn)生了兩種相互矛盾的反應(yīng)。一方面，他欣喜地看到解碼器開發(fā)成功，并且有望成為一種輔助交流的工具。但這也激起了他對濫用這種技術(shù)的深深憂慮。他的腦海中浮現(xiàn)出一些反烏托邦式的場景：思想警察、強制審訊、不情愿的受害者被綁在機器上。他說，“這是讓我們最先感到害怕的東西。”

與之前的尤斯特一樣，胡斯和唐開始了一段對他們的研究倫理的深刻反省。他們廣泛閱讀了相關(guān)資料，包括晨邊小組2017年在《自然》雜志上發(fā)表的文章，以及牛津大學(xué)哲學(xué)家斯蒂芬·雷尼（Stephen Rainey）領(lǐng)導(dǎo)的團隊于2020年發(fā)表的文章*。盡管他們可能無法控制此類技術(shù)在未來的使用，但他們清楚地認(rèn)識到，某些做法應(yīng)該被完全禁止。例如，在被試尚未開始實驗任務(wù)的靜息態(tài)進(jìn)行解碼，或者在被試不知情的情況下進(jìn)行解碼。他們也認(rèn)為，大腦解碼不應(yīng)在法律系統(tǒng)或者其他任何類似情境中使用，因為解碼過程中的失誤可能會在現(xiàn)實世界中產(chǎn)生后果；事實上，大腦解碼只應(yīng)在解碼信息可由用戶驗證的情況下使用。(例如，閉鎖綜合征患者應(yīng)通過回答“是”或者“否”的問題，以證實解碼信息的正確性）。此外，胡斯和唐還得出結(jié)論，應(yīng)禁止雇主在未經(jīng)同意的情況下使用其員工的大腦數(shù)據(jù)，而且各公司在使用通過消費者設(shè)備采集的大腦數(shù)據(jù)時，必須保持公開透明。

*譯者注：Rainey, S., Martin, S., Christen, A. et al. Brain Recording, Mind-Reading, and Neurotechnology: Ethical Issues from Consumer Devices to Brain-Based Speech Decoding. Sci Eng Ethics26, 2295–2311 (2020). https://doi.org/10.1007/s11948-020-00218-0

胡斯和唐努力試圖解決的倫理問題的核心是，他們的解碼器與同期開發(fā)的其他語言解碼器不同，是非侵入性的——用戶不需要接受手術(shù)。正因為如此，他們的技術(shù)不受醫(yī)療領(lǐng)域的嚴(yán)格監(jiān)管。尤斯特則表示，他認(rèn)為非侵入式腦機接口帶來的倫理挑戰(zhàn)遠(yuǎn)大于侵入式系統(tǒng)。“非侵入式和商用的技術(shù)才是容易引起倫理爭論的焦點所在。”雖然胡斯和唐的解碼器在廣泛應(yīng)用層面還面臨其他的問題（比如功能核磁共振成像的機器龐大、昂貴且無法移動），但研究人員認(rèn)為，或許也有辦法克服這一問題。

fMRI設(shè)備測量的信息——血液含氧量（顯示血液在大腦中流動的位置），也可以用另一種技術(shù)測量，即功能性近紅外光譜技術(shù)（functional Near-Infrared Spectroscopy，fNIRS）。雖然一般fNIRS的空間分辨率比fMRI低，但有幾款昂貴的研究級可穿戴fNIRS頭戴設(shè)備的分辨率夠高，幾乎足以配合胡斯和唐的解碼器。事實上，他們通過簡單地模糊之前的fMRI數(shù)據(jù)來模擬研究級fNIRS的分辨率，從而測試了他們的解碼器與這類設(shè)備的匹配度。胡斯描述，解碼后的結(jié)果“沒有差到哪里去”。

雖然這種研究級設(shè)備目前對普通消費者來說成本過高，但更初級的fNIRS頭戴式設(shè)備已經(jīng)進(jìn)入市場。盡管這些設(shè)備的分辨率遠(yuǎn)遠(yuǎn)無法讓胡斯和唐的解碼器有效工作，但該技術(shù)仍在不斷改進(jìn)。胡斯相信有朝一日，價格低廉的可穿戴fNIRS設(shè)備會有足夠高的分辨率，以便與解碼器配合使用。事實上，目前他正在與華盛頓大學(xué)的其他科學(xué)家們合作研究開發(fā)這樣的設(shè)備。

即使是比較原始的腦機接口設(shè)備，在向公眾發(fā)布時，也會引發(fā)尖銳的倫理問題。腦電圖（electroencephalography，EEG）是一種通過檢測頭皮電信號來測量大腦活動的普遍方法。依靠這種技術(shù)的設(shè)備現(xiàn)在已經(jīng)可以被廣泛使用，而這在某些情況下引起了人們的警惕。2019年，在中國金華，一所學(xué)校因為嘗試使用腦電頭帶監(jiān)測學(xué)生的注意力水平而招致批評*。（學(xué)校鼓勵學(xué)生比賽誰的注意力最集中，并將報告發(fā)送給家長。）類似的情況也在2018年發(fā)生過：《南華早報》報道稱，數(shù)十家工廠和企業(yè)開始使用“大腦監(jiān)控設(shè)備”來監(jiān)測工人的情緒，希望借此提高生產(chǎn)率并改善安全狀況*。時任寧波大學(xué)腦科學(xué)家的金佳告訴記者，這些設(shè)備“一開始會引起一些不適和抵觸情緒，但是過了一段時間，工人們就習(xí)慣了。”

*譯者注1：金華市金東區(qū)教育局相關(guān)工作人員10月31日下午回應(yīng)稱，學(xué)生是無償、自愿使用“頭環(huán)”，未產(chǎn)生任何不良反應(yīng)，家長也對此表示認(rèn)可。目前，為平息“質(zhì)疑”，當(dāng)?shù)匾褯Q定暫時停用相關(guān)設(shè)備。（來自澎湃新聞2019-10-31的報道）

*譯者注2：該項目出自寧波大學(xué)的政府資助計劃“Neuro Cap”，至2018年，已有十多家工廠與企業(yè)采用。

但即使是對于低分辨率的設(shè)備，其主要問題也在于，科學(xué)家們才剛剛開始了解大腦數(shù)據(jù)中的信息究竟是如何編碼的。未來，功能強大的新型解碼算法可能會發(fā)現(xiàn)，即使是原始的低分辨率腦電圖數(shù)據(jù)，也包含了大量人們被采集大腦數(shù)據(jù)時的精神狀態(tài)信息。因此，沒有人能確切地知道，當(dāng)他們允許公司從他們的大腦中收集信息時，他們會泄露什么。

因此，胡斯和唐得出的結(jié)論是，大腦數(shù)據(jù)應(yīng)受到嚴(yán)密保護，尤其是在消費品領(lǐng)域。唐去年四月在Medium上發(fā)表的一篇文章中寫道：“解碼技術(shù)在不斷進(jìn)步，與現(xiàn)在相比，一年后我們可以從大腦掃描中解碼出的信息可能已經(jīng)大不相同。至關(guān)重要的是，各公司必須對他們打算如何處理大腦數(shù)據(jù)保持公開透明，并確保大腦數(shù)據(jù)得到精心保護。”（尤斯特提到，神經(jīng)權(quán)利基金會（Neurorights Foundation）最近調(diào)查了30家神經(jīng)技術(shù)公司的用戶協(xié)議，發(fā)現(xiàn)所有公司都聲明了對用戶大腦數(shù)據(jù)的所有權(quán)，且大多數(shù)公司都聲稱他們有權(quán)將這些數(shù)據(jù)出售給第三方）。盡管有這些擔(dān)憂，胡斯和唐仍認(rèn)為，只要確保有適當(dāng)?shù)谋Ｗo措施，這些技術(shù)的潛在益處大于風(fēng)險。

但是，當(dāng)胡斯和唐正在努力解決他們的工作所帶來的倫理后果時，遠(yuǎn)在美國另一端的尤斯特已經(jīng)明確了一件事：這些對話必須走出理論、哲學(xué)、學(xué)術(shù)和假設(shè)的范疇——它們必須進(jìn)入法律的領(lǐng)域。

在2019年一個炎熱的夏夜里，尤斯特與好友，智利著名醫(yī)生，也是時任參議員的吉多·吉拉爾迪（Guido Girardi）坐在智利北部一家土坯酒店的院子里，一邊觀察著阿塔卡馬沙漠廣袤而星光閃閃的夜空，一邊討論著他們的常駐話題，明日世界。吉拉爾迪每年都會組織拉丁美洲一項重要的科學(xué)技術(shù)活動——“未來議會”（Congreso Futuro）*。長期以來，他都對科技的飛速發(fā)展及其對社會范式轉(zhuǎn)變的影響（他稱之為“以光速生活在這個世界上”）有著濃厚的興趣。尤斯特經(jīng)常被邀請在未來議會上演講，而且兩人都堅信，科學(xué)家們正在創(chuàng)造足以顛覆作為人類的根本概念的強大技術(shù)。

*譯者注：“自2011年成立以來，我們一直致力于打造一個免費公開傳播知識、科學(xué)、技術(shù)和藝術(shù)的平臺。未來議會由智利參議院、未來議會基金會、智利科學(xué)院和全國所有大學(xué)組織，就當(dāng)今社會在不久的將來會面臨的社會、文化和政治問題進(jìn)行對話和反思。”（來自未來會議官網(wǎng)：https://2024.congresofuturo.cl/）

午夜時分，當(dāng)尤斯特喝完他的皮斯可酸酒（pisco sour）時，吉拉爾迪提出了一個有趣的建議：他們是不是可以合作讓智利憲法通過一項修正案，將保護精神隱私作為每個智利人不可侵犯的權(quán)利？這是一個雄心勃勃的想法，但吉拉爾迪擁有在參議院成功推動激進(jìn)立法的經(jīng)驗。多年前，他曾帶頭制定了智利著名的《食品標(biāo)簽和廣告法》，要求公司在垃圾食品上貼上健康警示標(biāo)簽（該法激勵了數(shù)十個國家推行類似法律）。對于腦機接口領(lǐng)域而言，這是他又一次成為法律開拓者的機會。吉拉爾迪回憶道：“我對拉斐爾說，‘不如就由我們來制定第一部神經(jīng)數(shù)據(jù)保護法，你覺得如何？’”，尤斯特欣然同意。

在接下來的幾年里，尤斯特多次前往智利，為吉拉爾迪的政治努力擔(dān)任技術(shù)顧問。他的大部分時間都花在了提高人們對這一問題的認(rèn)識上。他在大學(xué)發(fā)表演講、參加辯論會、舉行新聞發(fā)布會、會見重要人士；尤斯特說，他曾與智利時任總統(tǒng)塞巴斯蒂安·皮涅拉（Sebastián Pi?era）進(jìn)行了一次長達(dá)三小時的會談。不過，他的主要職責(zé)是為起草立法的律師提供指導(dǎo)。“他們對神經(jīng)科學(xué)和醫(yī)學(xué)一無所知，而我對法律一無所知。”尤斯特回憶道，“這是一次激動人心的合作。”

與此同時，吉拉爾迪領(lǐng)導(dǎo)了政治層面的推進(jìn)，促進(jìn)修改智利憲法，以保護人們的精神隱私。這一努力出乎意料地得到了各政治派別的支持；這在一個以政治兩極分化而聞名的國家是一項了不起的壯舉。在2021年，智利國會一致通過了憲法修正案，總統(tǒng)皮涅拉迅速地簽署通過了這項修正案。（智利國會目前正在審議第二項立法，即建立神經(jīng)技術(shù)監(jiān)管框架）。吉拉爾迪回憶道：“左右派政黨之間對此沒有任何分歧。這也許是智利唯一一部以全票通過的法律。”這讓智利成為了當(dāng)時世界上第一個將“神經(jīng)權(quán)利”寫入法典的國家。

對于新生的神經(jīng)權(quán)利運動（neurorights movement）而言，智利在立法方面取得的巨大勝利是令人鼓舞的第一步。但尤斯特和吉拉爾迪也意識到了法律保護在國家層面上的局限性。吉拉爾迪解釋說，未來的技術(shù)很容易就能跨越各種界限（甚至可能完全存在于物理空間之外），而且技術(shù)發(fā)展速度太快，民主制度無法跟上。他說，“民主是緩慢的。通過一項法律需要數(shù)年時間，但是世界變化的速度卻是指數(shù)級的。”尤斯特和吉拉爾迪意識到，國家法規(guī)可以提供一些有用的法律保障，但僅靠這些法規(guī)是遠(yuǎn)遠(yuǎn)不夠的。

早在智利憲法修正案通過之前，尤斯特就已經(jīng)開始定期和國際人權(quán)律師賈里德·根瑟（Jared Genser）進(jìn)行會面，根瑟曾為德斯蒙德·圖圖（Desmond Tutu）和昂山素季（Aung San Suu Kyi）等知名人士進(jìn)行辯護。（《紐約時報》曾因根瑟為政治犯所做的工作而將其戲稱為“政治犯釋放器”）。尤斯特在就如何制定一個保護神經(jīng)權(quán)利的國際法律框架尋求指導(dǎo)，而根瑟雖然對神經(jīng)技術(shù)只是略知一二，卻立刻被這個話題吸引住了。“可以說，在頭一個小時的討論中，他就讓我大開眼界。” 根瑟這樣說道。此后不久，尤斯特、根瑟和一位名叫杰米·戴維斯（Jamie Daves）的私營企業(yè)家發(fā)起成立了神經(jīng)權(quán)利基金會（Neurorights Foundation）。這是一家非營利組織，根據(jù)其網(wǎng)站介紹，基金會的首要目標(biāo)是“保護所有人的人權(quán)，使其免受神經(jīng)技術(shù)潛在誤用或濫用的危害”。

為了實現(xiàn)這一目標(biāo)，組織努力讓社會各階層參與進(jìn)來，上至聯(lián)合國和美洲國家組織（Organization of American States）等地區(qū)管理機構(gòu)，下至各國政府、科技產(chǎn)業(yè)、科學(xué)家們和廣大民眾。根瑟說：“接觸這么多領(lǐng)域，你可以說我們瘋了，或者太自大了。但盡管如此，在全球范圍內(nèi)討論這些問題，絕對就像“荒野西部”（Wild West）*一樣，因為事情的現(xiàn)狀、走向和必要的措施都鮮有人知。”

*譯者注：荒野西部（Wild West）指19世紀(jì)的美國西部，通常被認(rèn)為是缺少法律和不守規(guī)矩的地帶，可引申為無序行為盛行的地方或情況，尤指缺乏監(jiān)管或法律體系不足。

由于社會各階層對神經(jīng)科技普遍缺乏了解，尤斯特在很大程度上扮演了全球教育者的角色。例如，他曾多次與聯(lián)合國秘書長安東尼奧·古特雷斯（António Guterres）會面，討論新興神經(jīng)科技的潛在危險。這些努力已初見成效。古特雷斯在2021年的報告《我們的共同議程》（Our Common Agenda）中提出了未來國際合作的目標(biāo)，敦促“更新或澄清我們對人權(quán)框架和標(biāo)準(zhǔn)的應(yīng)用，以解決前沿領(lǐng)域的問題，比如‘神經(jīng)技術(shù)’（neuro-technology）”。根瑟將報告中的這一措辭歸功于尤斯特在宣傳上所做的努力。

但是，更新國際人權(quán)法并非易事。即使在神經(jīng)權(quán)利基金會內(nèi)部，對于最有效的方法也存在意見分歧。尤斯特認(rèn)為，理想的解決方案是建立一個新的國際機構(gòu)來專門針對神經(jīng)權(quán)利，類似于國際原子能機構(gòu)（International Atomic Energy Agency）。“我的理想是制定一項關(guān)于神經(jīng)技術(shù)的國際公約，就像原子能和一些其他事物的公約一樣，有它們各自的條例。”他說，“也許再創(chuàng)立一個機構(gòu)，從根本上監(jiān)督全世界在神經(jīng)技術(shù)方面的努力。”

然而，根瑟認(rèn)為沒有必要制定新的條約。他認(rèn)為通過擴展對現(xiàn)有國際人權(quán)法的解釋，就可以將神經(jīng)權(quán)利納入其中，這是最為快捷有效的途徑。例如，《公民權(quán)利和政治權(quán)利國際公約》（The International Covenant of Civil and Political Rights）已經(jīng)確保了一般的隱私權(quán)，那么通過更新對該法律的解釋，便足以澄清該條款也適用于精神隱私。

根瑟解釋說，擴展對現(xiàn)有法律解釋這種方法的優(yōu)勢在于，這些條約的簽署國將有義務(wù)立即修改其國內(nèi)法，使其與新的解釋相一致；這也是同時在國際和國家層面促進(jìn)神經(jīng)權(quán)利行動的一種方式。根瑟說：“就《公民權(quán)利和政治權(quán)利國際公約》而言，這將對所有國家，也就是該條約的170多個締約國，產(chǎn)生明確的影響——它們現(xiàn)在需要在國內(nèi)提供精神隱私權(quán)，以履行條約規(guī)定的義務(wù)。”

不過，盡管根瑟認(rèn)為這一途徑是將神經(jīng)權(quán)利被納入國際法的最快方法，這一過程仍將耗時數(shù)年：首先，各條約機構(gòu)要更新其解釋，然后各國政府要努力使其國內(nèi)法與之相符。法律保障總是滯后于技術(shù)的進(jìn)步，但隨著神經(jīng)科技發(fā)展步伐的加快，這可能會成為一個尤其棘手的問題。

包括吉拉爾迪在內(nèi)的一些人認(rèn)為，滯后性是個大問題。他質(zhì)疑法律制度是否有能力抵御即將到來的變化。畢竟，當(dāng)人類以光速生活在這個世界上時，法律又如何跟得上呢？

然而，當(dāng)尤斯特和其他人還在繼續(xù)與復(fù)雜的國際法和國內(nèi)法作斗爭時，胡斯和唐卻發(fā)現(xiàn)，至少對他們的解碼器來說，最大的隱私保護屏障并非來自外部機構(gòu)，而恰恰來自人類的大腦本身。在他們的解碼器取得初步成功后，二人廣泛閱讀了有關(guān)這種技術(shù)倫理影響的書籍，并開始思考如何評估解碼器的能力邊界。胡斯說道：“我們想測試幾條精神隱私的原則。”簡單來說，他們想知道解碼器能否被人腦抵制。

2021年底，幾位科學(xué)家們開始了新的實驗。首先，他們想知道在一個人身上訓(xùn)練出來的解碼算法是否能適用于另一個人身上。他們測試的結(jié)果是否定的，因為解碼器的成效取決于長時間的個體化訓(xùn)練。接下來，他們又測試了被試是否可以通過拒絕與解碼器合作來防止自己的思維被解碼。這次，在fMRI掃描儀中，被試不再需要專注于耳機中播放的故事，而是完成一些其他腦力任務(wù)，比如說出隨機動物的名字，或者在腦中講述一個不同的故事。“這兩項任務(wù)都使解碼器完全失效。”胡斯說道，“我們無法解碼他們正在聽的故事，也無法解碼他們在想什么。”

研究結(jié)果表明，至少從目前來看，強行讀心這種噩夢般的場景離我們還比較遙遠(yuǎn)。隨著這些倫理問題的嚴(yán)重程度減弱，科學(xué)家們已將注意力轉(zhuǎn)移到這項發(fā)明的積極方面，例如它有潛力成為恢復(fù)交流能力的工具。他們已經(jīng)開始與華盛頓大學(xué)的一個團隊合作，嘗試研發(fā)一個與他們的解碼器兼容的可穿戴 fNIRS 系統(tǒng)。也許在不久的將來，他們的技術(shù)就可以開始被實際應(yīng)用到醫(yī)療中。盡管如此，胡斯完全認(rèn)可反烏托邦式預(yù)測的價值，并希望這種預(yù)測能夠繼續(xù)下去。“我很欣賞人們不斷提出新的糟糕情景。”他說，“這不正是我們需要繼續(xù)做的事情嗎？思考‘這些事情會因為什么而出錯？怎樣做才能確保它們不出錯，同時也思考它們可能出錯的方式，’這一點很重要。”

然而對尤斯特來說，像胡斯和唐的解碼器這樣的技術(shù)，可能只是人類歷史上令人匪夷所思的新篇章的開端。在這個新篇章中，人類大腦和計算機之間的界限將被徹底重新劃定，甚至被完全抹除。他說，我們可以想象這樣的一個未來：人類和計算機將永久融合，從而出現(xiàn)技術(shù)性增強的賽博人（半機械人）。“當(dāng)這場海嘯向我們席卷而來的時候，人類最終不是有可能，而是一定會把自己變成一個混合物種。”尤斯特現(xiàn)在正專注于為這種未來做準(zhǔn)備。

在過去的幾年里，尤斯特曾前往多個國家，與眾多政治家、最高法院法官、聯(lián)合國委員會成員和國家元首會面。他的宣傳活動已初見成效。2023年8月，墨西哥開始考慮進(jìn)行憲法改革，以確立精神隱私權(quán)。巴西目前也在考慮類似提案，西班牙、阿根廷和烏拉圭以及歐盟也表達(dá)了類似的意向。同年9月，神經(jīng)權(quán)利被正式納入墨西哥的數(shù)字權(quán)利憲章，而在智利，最高法院做出了一項具有里程碑意義的裁決，認(rèn)定生產(chǎn)可穿戴腦電頭戴設(shè)備的Emotiv公司違反了智利新頒布的精神隱私權(quán)法。這項訴訟是由尤斯特的朋友與合作者吉多·吉拉爾迪（Guido Girardi）提出的。

尤斯特之所以如此積極地宣傳精神隱私權(quán)利法，或許是因為他確信采取行動的時限正在迅速逼近，明日的世界不再遙不可及。“他們曾經(jīng)問我，‘你認(rèn)為我們什么時候應(yīng)該開始擔(dān)心精神隱私問題？’”他回憶道，“我會說五年后。‘那什么時候擔(dān)心我們的自由意志呢？’我會說十年后。但你猜怎么著？我當(dāng)時太樂觀了。”

胡斯也同意現(xiàn)在是采取行動的時候了。他解釋說，這些技術(shù)可能仍處于起步階段，但積極主動地建立精神保護遠(yuǎn)比被動地等待可怕的事情發(fā)生要好得多。

胡斯說：“這是我們應(yīng)該認(rèn)真對待的事情。即使現(xiàn)在的神經(jīng)技術(shù)還沒有完全發(fā)展成熟，但是五年后又會怎樣呢？想想五年前我們能做到什么，現(xiàn)在又能做到什么。五年后會怎樣？十年后又會怎樣？我們可以合理地推測以后會出現(xiàn)，我不想說足夠可怕，但一定足夠反烏托邦式的情況，所以我認(rèn)為現(xiàn)在正是我們要好好思考這個問題的時候。”

作者：Fletcher Reverley

翻譯：學(xué)理的小文

審校：Lemona

原文：https://undark.org/2024/01/03/brain-computer-neurorights/