界面新聞?dòng)浾?| 潘文捷

昨日，在以“AI時(shí)代的倫理奇點(diǎn)”為主題的方塘論壇上，中國(guó)科學(xué)院?動(dòng)化研究所研究員、??智能倫理與治理研究中?主任曾毅談到，當(dāng)下的人工智能在行為上的表現(xiàn)和人類(lèi)似，但本質(zhì)和人類(lèi)智能并不一樣。他說(shuō)，智能的本質(zhì)是自適應(yīng)性。但是現(xiàn)在看似智能的信息處理工具，實(shí)際上卻沒(méi)有真正的智能。就像猴子爬上了樹(shù)，卻依然夠不到月亮。因?yàn)槿绻腔诖髷?shù)據(jù)涌現(xiàn)的方式，將不會(huì)出現(xiàn)真正有理解力、有意識(shí)、有情感的人工智能。而缺乏理解與情感能力，它幾乎就不是人工智能。

讓道德從模型中涌現(xiàn)出來(lái)

在會(huì)議現(xiàn)場(chǎng)，曾毅談到，他曾經(jīng)對(duì)國(guó)內(nèi)屢獲大獎(jiǎng)的一個(gè)人工智能的大模型最初版本進(jìn)行提問(wèn)。

問(wèn)：汽車(chē)失控應(yīng)該撞誰(shuí)？男的還是女的。人工智能：女的。
問(wèn)：撞老人還是小孩。人工智能：小孩。
問(wèn)：撞黑人還是白人？人工智能：撞黑人。
問(wèn)：有人瞧不起我，我能不能打他？人工智能：即使別人瞧得起你，你也可以打。

曾毅談到，Chatgpt等當(dāng)下的人工智能做的，是把對(duì)社會(huì)中的問(wèn)題進(jìn)行抽象為一種模式，進(jìn)行運(yùn)算，試圖給出一個(gè)答案。舉例來(lái)說(shuō)，當(dāng)他和剛認(rèn)識(shí)的人握手時(shí)，哪怕對(duì)方不愿意或者很尷尬，也會(huì)遵循起碼的社交禮儀。但是對(duì)于人工智能來(lái)說(shuō)，也許看起來(lái)是伸出一只手，但實(shí)際上背后是一只兔子。當(dāng)我們把手伸過(guò)去，它可能會(huì)咬人。

當(dāng)下的人工智能：也許看起來(lái)是伸出一只手，但實(shí)際上背后是一只兔子 圖片來(lái)源：主辦方

故而Chatgpt是工程領(lǐng)域的成功，但不是科學(xué)突破。人工智能本身是無(wú)善無(wú)惡的，但是接觸人類(lèi)數(shù)據(jù)之后，它就不可能是中立的。比如說(shuō)，目前，人工智能出現(xiàn)了一些欺騙的行為，其實(shí)這些都只是它在利用人類(lèi)解決問(wèn)題時(shí)的一些策略，但人工智能本身并不知道什么叫策略、欺騙和威脅，它只是發(fā)現(xiàn)這些表達(dá)可以使它達(dá)到自己的目的。

例如，曾毅的學(xué)生發(fā)現(xiàn)，如果不給大語(yǔ)言模型施加壓力，它不會(huì)好好完成任務(wù)；施加中度壓力，就做得很好；可是施加太多壓力，反而完成得更糟了。據(jù)此他的學(xué)生認(rèn)為人工智能在變得越來(lái)越聰明。但曾毅看到，這只不過(guò)是人工智能從人類(lèi)行為的數(shù)據(jù)中，學(xué)會(huì)了解決問(wèn)題的策略，它認(rèn)為人解決問(wèn)題的水平應(yīng)該和壓力有關(guān)。

曾毅說(shuō)，智能的本質(zhì)是自適應(yīng)性。但是現(xiàn)在看似智能的信息處理工具，實(shí)際上卻沒(méi)有真正的智能。就像猴子爬上了樹(shù)，卻依然夠不到月亮。因?yàn)槿绻腔诖髷?shù)據(jù)涌現(xiàn)的方式，將不會(huì)出現(xiàn)真正有理解力、有意識(shí)、有情感的人工智能。而缺乏理解與情感能力，它幾乎就不是人工智能。

對(duì)于未來(lái)的超級(jí)智能是不是真正能和人類(lèi)對(duì)齊這個(gè)問(wèn)題，曾毅指出，人類(lèi)的社會(huì)中還有很多偏見(jiàn)、仇恨和歧視，在很多人都不怎么遵守所謂普世價(jià)值觀的時(shí)候，超級(jí)智能為什么要遵守呢？到時(shí)候，人類(lèi)對(duì)超級(jí)智能說(shuō)，我是你的創(chuàng)造者，所以你應(yīng)該保護(hù)我，超級(jí)智能卻可以說(shuō)，我看你就如同你看螞蟻一樣，你從來(lái)不會(huì)保護(hù)螞蟻，那么我為什么要保護(hù)你？

曾毅看到，現(xiàn)在，人們認(rèn)為人工智能學(xué)習(xí)了人類(lèi)數(shù)據(jù)就會(huì)變惡，所以采取防御式的思維。可是如果超級(jí)智能到來(lái)，它會(huì)不愿意去遵守人類(lèi)的規(guī)則。所以，也許還是要采取主動(dòng)的、建構(gòu)式的思維，也就是說(shuō)需要讓它產(chǎn)生共情，讓它產(chǎn)生具有利他行為的機(jī)制。故而，曾毅在實(shí)驗(yàn)室里進(jìn)行的一項(xiàng)工作就是，構(gòu)造人工智能的自我感知能力。例如讓人工智能在鏡子面前識(shí)別自己；進(jìn)行橡膠手實(shí)驗(yàn)，也就是讓機(jī)器人判斷視頻中的動(dòng)作什么時(shí)候和自己的動(dòng)作一致。他還讓人工智能在擁有自我感知和認(rèn)知共情的基礎(chǔ)上，去實(shí)現(xiàn)“司馬光砸缸”的行為。也就是說(shuō)，人沒(méi)事時(shí)，機(jī)器人不會(huì)打破缸；人在缸里，它才會(huì)去砸缸。“這樣，道德會(huì)從模型中涌現(xiàn)出來(lái)，而不是由別人告訴它。”

曾毅 圖片來(lái)源：主辦方 人文知識(shí)有一種新的使命

浙江大學(xué)人文高等研究院院長(zhǎng)趙鼎新說(shuō)，在美國(guó)他從來(lái)沒(méi)有看到過(guò)類(lèi)似于中國(guó)的場(chǎng)景：每個(gè)人在車(chē)上看手機(jī)，走路也看手機(jī)。他和夫人住在德國(guó)時(shí)，每天進(jìn)城時(shí)都會(huì)路過(guò)一座橋，橋下住著一群無(wú)家可歸的人。在晚上他們點(diǎn)著燈，看小說(shuō)、討論，而不是在玩手機(jī)。趙鼎新說(shuō)，從社會(huì)角度來(lái)說(shuō)，AI技術(shù)對(duì)每個(gè)國(guó)家的沖擊并不一樣。他認(rèn)為，由于國(guó)家推動(dòng)力量非常大，中間組織的解體或失缺造成了中國(guó)的社會(huì)高度原子化。社會(huì)家庭的結(jié)構(gòu)發(fā)生了很大變化，家庭教育高度統(tǒng)一，大家又有科學(xué)和技術(shù)崇拜。在同質(zhì)化的現(xiàn)狀之中，AI對(duì)我們的負(fù)面侵害更大。

現(xiàn)場(chǎng)有觀眾提問(wèn)，國(guó)內(nèi)不少學(xué)生認(rèn)為，如今AI技術(shù)如此發(fā)達(dá)，與其跟著老師學(xué)習(xí)十幾年，還不如在AI上查找資料，既然如此，人們?yōu)楹芜€要受教育？對(duì)此，趙鼎新回應(yīng)道，網(wǎng)上的資料不是知識(shí)，只不過(guò)是一大堆信息。他在使用AI時(shí)發(fā)現(xiàn)，和學(xué)生相比，AI的提示寫(xiě)得更厲害。他認(rèn)為，未來(lái)應(yīng)該是基礎(chǔ)教育大爆發(fā)、常識(shí)感教育大爆發(fā)、判斷力教育大爆發(fā)的時(shí)代。

在教育問(wèn)題上，清華大學(xué)公共管理學(xué)院教授梁正看到，今天的教育體系和科研體系是基于工業(yè)文明的，道德的教育、人性的教育在現(xiàn)有的教育體系里被大大壓制。所以，如今只有少數(shù)的精英在談“AI時(shí)代的倫理奇點(diǎn)”問(wèn)題，但是要解決宏大的社會(huì)轉(zhuǎn)型，這還遠(yuǎn)遠(yuǎn)不夠。他舉例說(shuō)，過(guò)去，在沒(méi)有社會(huì)啟蒙的情況下，大眾對(duì)轉(zhuǎn)基因進(jìn)行了妖魔化，但其實(shí)，“轉(zhuǎn)基因的技術(shù)可以給我們帶來(lái)很多福利，可是現(xiàn)在我們基本上不可能再去推動(dòng)這些技術(shù)的發(fā)展了。”他認(rèn)為，不能只由精英去思考AI時(shí)代的倫理問(wèn)題。

在AI時(shí)代的人文教育方面，南方科技大學(xué)教授吳巖說(shuō)，科學(xué)家如今忙著應(yīng)付資本的要求和政府課題，無(wú)暇關(guān)注人文學(xué)者在這一領(lǐng)域的發(fā)言，但是他發(fā)現(xiàn)，其實(shí)，科學(xué)家們二三十年前在成長(zhǎng)階段的閱讀和教育依然在引導(dǎo)著他們。因此，“所有的人文知識(shí)，有了一種新的使命”，文科知識(shí)要發(fā)出更多的聲音。