文章轉(zhuǎn)載于新智元
ChatGPT推出后,迅速震驚了全球。
自那以后,OpenAI一直站在AI技術(shù)發(fā)展的最前沿。
去年9月,他們推出o系列模型,再次引領(lǐng)AI推理的浪潮。
到今天,推理模型已成主流。
最新、最強(qiáng)的模型,比如o3、Gemini 2.5 Pro、DeepSeek-R1,都是推理模型。
這些模型可以通過思維鏈(CoT),一步一步地「思考」來解決問題。比如,幫助研究人員潤色文章、編寫代碼、回顧文獻(xiàn),甚至是提出假設(shè)。
可以說,OpenAI的迅速崛起極大推動(dòng)了這次的AI革命。
在這其中,有個(gè)人一直在OpenAI扮演著關(guān)鍵角色。雖然很少有人聽說過他。
這就是OpenAI的首席科學(xué)家Jakub Pachocki。
2024年以來,Jakub Pachocki一直是OpenAI的首席科學(xué)家
Pachocki在2017年從學(xué)術(shù)界加入到OpenAI。在此之前,他是一名理論計(jì)算機(jī)科學(xué)家和競技程序員。
現(xiàn)在,Pachocki領(lǐng)導(dǎo)一項(xiàng)最先進(jìn)的AI系統(tǒng)開發(fā),這些系統(tǒng)旨在解決科學(xué)、數(shù)學(xué)和編程中的復(fù)雜任務(wù)。
就在昨天,《自然》雜志對Pachocki做了一次專訪,探討了AI能否做出獨(dú)立研究、通用人工智能(AGI),及公司即將推出的開源模型等熱門話題。
文章地址:https://www.nature.com/articles/d41586-025-01485-2?utm_source=x&utm_medium=social&utm_campaign=nature&linkId=14414809
以下是采訪精彩對話。
1
推理模型有多重要?
現(xiàn)在,你能和一個(gè)AI對話,但它還只是個(gè)需要不斷被引導(dǎo)的助手。
我(Pachocki,下同)覺得接下來這種情況會有很大改變。
我們已經(jīng)看到,像OpenAI的Deep Research這種AI工具,可以在沒有人監(jiān)督的情況下持續(xù)工作10到20分鐘,給出一份有用的結(jié)果。
但是,目前用于解決這些需求的計(jì)算量還不大。
1
強(qiáng)化學(xué)習(xí)有多重要?
第一階段的ChatGPT版本涉及一個(gè)無監(jiān)督的預(yù)訓(xùn)練階段。在這個(gè)階段,模型會吞下海量的數(shù)據(jù),并構(gòu)建出某種「世界模型」。
然后,我們通過使用人類反饋的強(qiáng)化學(xué)習(xí),訓(xùn)練出一個(gè)有用的AI助手。
最近在推理模型上的進(jìn)展,可以看作是更加重視強(qiáng)化學(xué)習(xí)的結(jié)果。
這樣,我們就不只是在提取知識,還使模型能夠找到自己的思考方式。
一個(gè)問題是,我們是否應(yīng)該繼續(xù)將這些學(xué)習(xí)階段分開來考慮。
推理模型不是在真空中學(xué)習(xí)如何思考的,它們根植于一個(gè)預(yù)訓(xùn)練模型。
我的很多關(guān)注點(diǎn)在于如何將模型的不同階段、方法結(jié)合起來,理解它們之間的相互作用。
1
模型真的會思考嗎?
首先,我們需要清楚,AI的運(yùn)行方式與人腦不同。
預(yù)訓(xùn)練的模型學(xué)到了一些關(guān)于世界的知識,但它并沒有真正理解它是如何學(xué)會這些事情的,也搞不清它學(xué)習(xí)這些事情的時(shí)間順序。
但我堅(jiān)信我們有充分的證據(jù)表明模型能夠發(fā)現(xiàn)新科學(xué)。
我會說這是一種「推理」,但這并不意味著它跟人類的推理方式一樣。
在探索AI推理能力的同時(shí),OpenAI也在考慮如何通過開源模型推動(dòng)科學(xué)進(jìn)步。
1
奧特曼說的新開源模型
對于這個(gè)問題,我特別興奮。尤其是能給研究人員提供一個(gè)開源的模型權(quán)重(他們可以下載并進(jìn)一步訓(xùn)練)。
隨著這些模型變得越來越強(qiáng)大,我們越來越有責(zé)任去理解在不同的方式下部署它們會如何影響大家。
我覺得要發(fā)布頂尖的前沿模型并開源權(quán)重會很困難,因?yàn)橛邪踩矫娴念檻]。
我想我們(OpenAI)發(fā)布的模型得比現(xiàn)有的開源模型更好。
1
AGI的定義是什么?何時(shí)達(dá)到?
我對AGI的定義及時(shí)間預(yù)期都發(fā)生了很大的變化。
剛進(jìn)研究生院時(shí),我覺得AGI的一個(gè)里程碑是能精通圍棋,得花上幾十年的時(shí)間。
結(jié)果,2016年這個(gè)目標(biāo)就實(shí)現(xiàn)了。這對我來說簡直是震撼世界的時(shí)刻。
2017年加入OpenAI時(shí),我還是公司里對AGI最大的質(zhì)疑者之一,但新的突破接踵而來。
在圖靈測試上,我們已經(jīng)取得了很多的進(jìn)展。數(shù)學(xué)和問題的解決能力也進(jìn)步很快,我覺得最難的基準(zhǔn)測試也會很快被突破。
所以,我現(xiàn)在思考的下一個(gè)重大里程碑——是AI能產(chǎn)生實(shí)實(shí)在在、可量化的經(jīng)濟(jì)影響,特別是能夠創(chuàng)造全新的科學(xué)研究。
這對我來說是最接近我心目中AGI的感覺。我們現(xiàn)在正聚焦于此,我預(yù)計(jì)在5年內(nèi)會有非常大的進(jìn)展。今年,人工智能可能還不會解決主要的科學(xué)問題,但幾乎可以自主地編寫有價(jià)值的軟件。
據(jù)報(bào)道,微軟和OpenAI已同意使用經(jīng)濟(jì)指標(biāo)來衡量AGI的進(jìn)展,具體目標(biāo)是實(shí)現(xiàn)1000億美元的投資回報(bào)。這種方式與Pachocki定義的AGI相匹配。
Pachocki的愿景表明,AI不僅將成為科學(xué)研究的助手,更可能在未來五年內(nèi)重塑全球經(jīng)濟(jì)與創(chuàng)新格局。
參考資料:
https://www.nature.com/articles/d41586-025-01485-2?utm_source=x&utm_medium=social&utm_campaign=nature&linkId=14414809
點(diǎn)個(gè)愛心,再走 吧
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.