谷歌更新后的公共人工智能道德政策取消了它不會使用該技術來尋求武器和監控應用的承諾。

在互聯網檔案Wayback Machine 上看到的原則的先前版本中，該公司包括了它不會追求的應用程序。其中一類是旨在傷害人的武器或其他技術。另一個是用于超越國際規范的監控技術。

谷歌刪除禁止AI武器化禁令

現在，這樣的限制承諾在更新的原則頁面上已經被刪除了。

谷歌于2018年首次發布其AI原則，比該技術幾乎無處不在早了幾年。Google的更新與最初發布的原則的價值觀截然相反。

2018年，谷歌放棄了對云計算五角大樓合同的100億美元出價，當時表示“我們無法保證它會符合我們的AI原則”。當年，有4000多名員工簽署了一份請愿書，要求“制定一項明確的政策，聲明谷歌及其承包商都不會開發戰爭技術”，大約有十幾名員工辭職以示抗議。

谷歌致力于“直接部署可以殺死人的技術”

谷歌已經對其人工智能原則進行了重大修改，取消了之前對使用該技術開發武器和監控工具的限制。周二宣布的這一更新改變了該公司之前對可能造成 “整體傷害” 的應用程序的立場。

2018年，谷歌制定了一套人工智能原則，以回應對其參與軍事活動的批評，最初的指導方針明確指出，谷歌不會設計或部署人工智能，用于造成或直接促進人員受傷的武器或技術，或違反國際公認的規范的監控。

然而，最新版本的Google AI原則已經刪除了這些要點。相反，Google DeepMind首席執行官Demis Hassabis和技術和社會高級主管James Manyika發布了一份關于使用AI的科技巨頭“核心租戶”的新名單。其中包括關注創新和協作，以及“民主國家應在自由、平等和尊重人權等核心價值觀的指導下引領人工智能發展”的聲明。

曾共同領導谷歌道德人工智能團隊的瑪格麗特·米切爾（Margaret Mitchell）告訴彭博社，取消“傷害”條款，可能意味著該公司現在將致力于“直接部署可以殺死人的技術”。

據《華盛頓郵報》報道，這家科技巨頭自加沙戰爭初期以來就與以色列軍方合作，與亞馬遜競爭提供人工智能服務。該報上個月援引公司內部文件報道，在2023年10月哈馬斯對以色列發動襲擊后不久，谷歌的云部門努力允許以色列國防軍使用人工智能工具，盡管該公司公開聲稱將參與限制在政府文職部門。

谷歌改變其政策之際，人們對人工智能對人類構成的危險持續擔憂。人工智能領域的先驅人物、2024年諾貝爾物理學獎獲得者杰弗里·辛頓（Geoffrey Hinton）去年年底警告說，這項技術可能會在未來三十年內導致人類滅絕，他認為這一可能性高達 20%。

辛頓警告說，人工智能系統最終可能會超越人類智能，逃脫人類控制，并可能對人類造成災難性的傷害。他敦促為AI安全和合乎道德地使用該技術分配大量資源，并制定積極措施。

AI武器化將引發閃電戰，并快速升級為大規模戰爭，且無法停止

一位領先的獨立網絡安全專家告訴我們，為什么谷歌的此舉充滿了嚴重風險。

“AI系統可能會以不可預測的方式與其他網絡連接的基礎設施交互，”資深獨立網絡安全專家和數字戰略專家希爾斯（Lars Hilse）解釋說。

希爾斯說，這種不可預測性可能會引發閃電戰，這種戰爭升級得太快，以至于人類大腦無法理解，人類無法干預”，并強調了將國防相關問題交給AI管理的巨大風險。

希爾斯說，人類才剛剛開始了解與人工智能武器化相關的危險和“未知風險”。“特別是在全球沖突迫在眉睫的時期，我們可能想暫時把那個精靈留在瓶子里，”他敦促道。

谷歌為什么要這樣做？

但觀察家們對谷歌的政策轉變并不感到驚訝，因為需要與市場現實和地緣政治需求保持一致，以及國防市場“利潤豐厚”的性質決定了谷歌重新修改了自己的標準。

自OpenAI于2022年推出聊天機器人ChatGPT以來，人工智能競賽以令人眼花繚亂的速度發展。雖然人工智能的使用蓬勃發展，但關于AI透明度和道德的立法和法規尚未跟上——現在谷歌似乎已經放松了自我施加的限制。

希爾斯說，谷歌的新政策意味著它將能夠參與這些“利潤豐厚的國防合同和政府監控項目，并加強其在人工智能競賽中的地位，特別是與中國競爭對手的競爭”。

“政策轉變表明，硅谷與國防愿景進行了更廣泛的重新調整，甚至可能表明，在全行業范圍內正在系統地消除以前軍事人工智能開發的道德障礙，以便在這個 極其有利可圖且以前未開發過的商業領域中，更快地對市場變化做出反應，”這位專家總結道。