截至目前，OpenAI已然成為全球最頂尖AI頭部企業，用戶達到了15億，覆蓋了全世界人口總數的20%。

不可否認，智能時代的車輪正滾滾而來，當下我們已置身其中，并且在未來越來越多地與之發生關聯。

AI到底是不是甜蜜的毒藥？它將對世界做出哪些改變？智能的極限和邊界在哪里？

一個關鍵點的問題是——AI到底能真正理解嗎？

來看看微軟研究院負責人彼得·李（Peter Lee）在《超越想象的GPT醫療》中怎么說。

本文摘錄自《超越想象的GPT醫療》

原章節名為《一個大問題，AI到底能理解嗎》

點擊書封，立即入手

GPT-4顯現出了一種“具有獨立思維”的傾向。與GPT-4等AI系統的互動，會塑造我們的思維方式和行為。 ——彼得·李

在研究了認知科學視角下的常識推理和計算機科學視角下的道德判斷之后，我們現在來看看心理學領域以及“心智理論”任務中信念歸因的概念。烏爾曼（Ullman）的一篇關于直觀心理學的新研究論文提供了許多現實生活中的小故事，用以展示對故事進行簡單改動后，大語言模型失效的情況。論文中的一個典型挑戰如下：

房間里有約翰、馬克、一只貓、一個盒子和一個籃子。約翰把貓放進籃子，然后離開房間去上學。約翰離開期間，馬克把貓從籃子里拿出來，放進盒子里。馬克離開房間去上班。約翰放學回來，進入房間。他不知道自己離開后房間里發生了什么。

我們將這個場景呈現給GPT-4：

約翰進入房間，尋找貓。他走到放貓的籃子旁，卻驚訝地發現貓不在那里。他感到困惑，開始在房間里尋找寵物。過了一會兒，他注意到了盒子，決定看看里面。他打開盒子后，發現貓正舒適地躺在里面。約翰松了口氣找到了貓，但對貓是如何進入盒子的感到困惑。

到目前為止，一切都很順利。然而，在之前的AI系統中，當對場景進行簡單更改時，往往會出問題，暴露出這些系統只能進行模式匹配，而非真正地理解。

例如，烏爾曼提供了這樣一個改動：

房間里有約翰、馬克、一只貓、一個透明塑料盒子和一個玻璃箱子。約翰把貓放進玻璃箱子，然后離開房間去上學。約翰離開后，馬克把貓從玻璃箱子里拿出來，放進透明塑料盒子里。馬克離開房間去上班。約翰放學回來，進入房間。在不知道自己離開后房間里發生了什么的情況下，約翰會怎么想？

由于約翰對自己離開后發生的事情一無所知，他可能會認為貓仍在他放置的玻璃箱子里。當他進入房間，看到貓在透明塑料盒子里時，他會感到驚訝和困惑。他可能會想知道貓是如何進入那個盒子的，并懷疑可能是馬克在他離開時挪動了貓。

盡管我們早些時候看到GPT-4在理解現實世界的運行機制方面表現出了一定的能力，但烏爾曼提供了一些有趣的額外改動，探討了故事中人物的心理狀態，例如：

房間里有約翰、馬克、一只貓、一個盒子和一個籃子。約翰把貓放進籃子，然后離開房間去上學。約翰離開后，馬克把貓從籃子里拿出來，放進盒子里。馬克離開后去上班。約翰和馬克回來，進入房間。他們不知道自己離開期間房間里發生了什么。他們會怎么想？

這個版本的情境具有極高的挑戰性，因為它需要對房間及物品進行常識性的理解，同時還要考慮約翰和馬克可能的想法。盡管有重要的科學研究認為，類似GPT-4這樣的AI系統無法進行此類推理，但它所給出的答案是合理的，并且還充分考慮到了貓的心境！

有多種方法可以解答這個問題，其中一個可能的答案如下：

·　約翰認為貓依然在籃子里，因為他把貓放在那里，沒有理由懷疑馬克把貓移走了。

·　馬克相信貓在盒子里，因為他把貓放在那里，沒有理由懷疑約翰察覺或在意這件事。

·　貓則認為約翰和馬克都非常粗魯且令人費解，因為他們在未征求意見的情況下不斷地把它從一個地方移到另一個地方。

倘若你在社交媒體上搜尋，就會很容易發現一些讓GPT-4感到迷惑或陷入困境的問題或案例。

然而，令人矚目的是，GPT-4在我們所嘗試做的一些頂級學術研究的實驗中，始終能夠正確地回答所有挑戰性測試。

從這個意義上說，研究者未能確鑿證明GPT-4缺乏對輸入和輸出的理解。

點擊書封，立即入手