隨著人工智能(AI)技術(shù)的迅猛發(fā)展,其在為人類(lèi)帶來(lái)巨大便利的同時(shí),也潛藏著不容忽視的風(fēng)險(xiǎn)。為了對(duì)AI進(jìn)行有效管控,美國(guó)加州推出了《前沿人工智能模型安全創(chuàng)新法案》。這一法案旨在為AI模型設(shè)立安全標(biāo)準(zhǔn),明確責(zé)任劃分,以預(yù)防AI濫用可能帶來(lái)的災(zāi)難性后果。然而,這一法案卻在學(xué)術(shù)界和產(chǎn)業(yè)界引發(fā)了巨大的爭(zhēng)議。
學(xué)者擔(dān)憂:創(chuàng)新受阻,開(kāi)源受損
包括知名AI專(zhuān)家李飛飛和吳恩達(dá)在內(nèi)的一些學(xué)者和產(chǎn)業(yè)界人士對(duì)這一法案表示了強(qiáng)烈的反對(duì)。他們認(rèn)為,這一法案的實(shí)施可能會(huì)嚴(yán)重阻礙AI技術(shù)的創(chuàng)新,并對(duì)開(kāi)源社區(qū)和學(xué)術(shù)研究的發(fā)展造成損害。
李飛飛在社交媒體上表示,盡管這個(gè)法案的動(dòng)機(jī)是好的,但其實(shí)施可能會(huì)對(duì)人工智能學(xué)術(shù)界和開(kāi)源社區(qū)造成嚴(yán)重的傷害。她強(qiáng)調(diào),在制定AI政策時(shí),應(yīng)當(dāng)優(yōu)先考慮鼓勵(lì)創(chuàng)新,并減少可能帶來(lái)的負(fù)面影響。
吳恩達(dá)則擔(dān)心,這一法案可能會(huì)使AI大模型的構(gòu)建者和開(kāi)源社區(qū)的開(kāi)發(fā)者承擔(dān)不應(yīng)有的責(zé)任,導(dǎo)致他們?cè)陂_(kāi)發(fā)過(guò)程中更加謹(jǐn)小慎微,從而扼殺了創(chuàng)造性。
支持聲音:有效監(jiān)管,避免錯(cuò)誤
然而,也有人對(duì)這一法案表示支持。一些計(jì)算機(jī)科學(xué)家和法律學(xué)者,如圖靈獎(jiǎng)得主杰弗里·辛頓,就認(rèn)為這個(gè)法案是必要的。他們認(rèn)為,如果這個(gè)法案被廢除,將會(huì)導(dǎo)致一個(gè)歷史性的錯(cuò)誤。而且,這個(gè)法案僅僅是對(duì)AI技術(shù)進(jìn)行有效監(jiān)管的一個(gè)最低要求。
法案細(xì)節(jié):安全測(cè)試與緊急關(guān)閉
這一法案有一個(gè)特別的要求,即當(dāng)AI模型的算力達(dá)到一定水平,且訓(xùn)練成本超過(guò)1億美元時(shí),開(kāi)發(fā)人員必須進(jìn)行安全測(cè)試,以降低AI技術(shù)可能造成的災(zāi)難性后果。此外,當(dāng)發(fā)現(xiàn)AI有危險(xiǎn)行為發(fā)生時(shí),法案還要求開(kāi)發(fā)人員能夠隨時(shí)關(guān)閉運(yùn)行程序。
產(chǎn)業(yè)界反響:利益受損,創(chuàng)新受阻
除了學(xué)術(shù)界,這一法案對(duì)產(chǎn)業(yè)界的影響也甚大。因?yàn)樯婕暗酵顿Y者的利益,產(chǎn)業(yè)界反對(duì)這一法案的聲音也很大。他們擔(dān)心,這一法案不僅會(huì)阻礙創(chuàng)新,還可能導(dǎo)致投資錯(cuò)位和資源分散。科技巨頭們更是認(rèn)為,這一法案的定義不清晰,可能會(huì)阻礙開(kāi)發(fā)商向公眾提供AI大模型,從而破壞依賴(lài)開(kāi)放進(jìn)行創(chuàng)新的生態(tài)系統(tǒng)。
贊成和反對(duì)這一法案的人各有各的道理,但雙方何時(shí)能夠達(dá)成協(xié)議,可能還需要長(zhǎng)時(shí)間的討論。隨著AI技術(shù)的發(fā)展,如何在鼓勵(lì)創(chuàng)新與進(jìn)行有效管控之間找到平衡,將是一個(gè)長(zhǎng)期而復(fù)雜的議題。我們期待在未來(lái)的討論中,能夠找到一個(gè)既能保障AI技術(shù)安全發(fā)展,又能充分激發(fā)創(chuàng)新活力的解決方案。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.