2030年前就會有完全超越人類的AGI，之后人類會隨機毀滅？

——人類要想自保和延續(xù)，在這之前就應(yīng)有個框架，然后和AGI賽跑

邵旭峰

一、AI時代完全開始，AI及其基礎(chǔ)要素都呈指數(shù)級發(fā)展，且會繼續(xù)提速：

2024年6月18日，芯片巨頭英偉達市值超越微軟成為全球第一，標志著信息技術(shù)之AI時代完全開始，之前信息革命經(jīng)歷了硬件和軟件時代，標志分別是硬件巨頭IBM的市值在1967年成為全球第一、之后一直霸榜到1986年，再就是微軟和蘋果市值成為全球最高——由于微軟提前布局AI，比如投資OpenAI公司而壓住蘋果。

目前全球市值前十的公司，除過沙特阿美是能源公司，其他基本都是信息技術(shù)和AI公司（另還有一個投資公司），更多信息技術(shù)和AI公司正在不斷擠掉全球市值前20、前50、前100、前500、前1000公司中之前的座次——也就是全球最多的財力、人力、人才、資源在往信息技術(shù)尤其AI領(lǐng)域集中，這一態(tài)勢是遠超之前第一次工業(yè)革命、第二次工業(yè)革命、以及信息技術(shù)之硬件和軟件時代的，是完全空前的瘋狂。

目前世界，OpenAI公司基于超強芯片和算力（計算平臺）的ChatGPT（文字和語言生成模型，當下是GPT-4），還有sora（視頻生成模型），以及谷歌公司的Bard、Meta公司的LLaMA，基本代表了AI的最高水平。OpenAI公司也在推進其雄心勃勃的7萬億美元融資計劃，意圖打造生成式人工智能帝國。

比爾·蓋茨稱，GPT-4在學(xué)習(xí)整合表達知識信息方面已經(jīng)超過大多數(shù)人，而OpenAI公司將在2024年年底前發(fā)布比GPT-4強100倍的新一代模型——毋庸置疑的，AI及其基礎(chǔ)要素（芯片、算力等），都完全開始指數(shù)級發(fā)展，且越往后會越提速。

二、完全碾壓人類的具備決策和意識功能的通用人工智能（AGI）在幾年內(nèi)就會到來：

2024年3月1日，英偉達CEO黃仁勛在美國加州參加斯坦福經(jīng)濟政策研究所峰會時表示，他預(yù)計AGI（強人工智能）最快將在五年內(nèi)面世，其將通過所有人類測試，也就是基本能做人能做的所有事情并很大程度超越。

OpenAI首席執(zhí)行官山姆·奧特曼稍早前也表示，AGI可能會在“相當近的將來”開發(fā)出來。

特斯拉CEO埃隆·馬斯克稱，OpenAI在2023年發(fā)布的GPT-4已經(jīng)是“AGI”。

2024年3月份，馬斯克在X社交媒體上寫道：“明年人工智能可能會比任何人類個體都聰明，到2029年，人工智能可能比所有人類加起來還要聰明?！?/strong>

對于馬斯克的話，我們可以稍作延展，比如OpenAI在年底推出的比GPT-4強100倍的新一代模型的基礎(chǔ)上再發(fā)展，應(yīng)該確實就是比所有人類個體都聰明，再有幾年，真正的AGI問世，可不就是比所有人類加起來都聰明？

“AGI之父”本·戈澤爾認為AI迎來指數(shù)級“智能爆炸”，他在之前一個AGI峰會閉幕時也預(yù)測“幾年內(nèi)就可以創(chuàng)造完全超越人類的AGI”。

和約翰·霍普菲爾德共同獲得2024年諾貝爾物理學(xué)獎的“AI教父”杰弗里·辛頓（獲獎理由是推動利用人工神經(jīng)網(wǎng)絡(luò)進行機器學(xué)習(xí)作出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明），他的反向傳播算法和深度學(xué)習(xí)推動基礎(chǔ)性推動AI發(fā)展。

OpenAI公司Chat、sora程序的最大推手，該公司前首席科學(xué)家伊爾亞·蘇茨克韋（Ilya Sutskever），就是辛頓學(xué)生。

但杰弗里·辛頓2023年5月從谷歌離職，目的是“為了可以公開談?wù)揂I的危險”，他認為：這些AI系統(tǒng)正在變得越來越危險，現(xiàn)在似乎還很難看到如何能夠防止壞人利用人工智能來做壞事。他也為自己曾經(jīng)的工作感到后悔······

受他的影響，伊爾亞·蘇茨克韋也在1年后——2024年5月離開OpenAI公司，創(chuàng)立新公司SSI（Safe Superintelligence Inc，安全超級智能），表示新公司將致力于追求安全超級智能。

當然，也有人對AI是否超越人類表示懷疑，比如Meta公司人工智能負責(zé)人、首席科學(xué)家、圖靈獎獲得者 Yann LeCun，他認為現(xiàn)有人工智能很難在幾個重要指標：推理、計劃、持久記憶和理解物理世界，趕上和達到人的水平。但同時他認為，通過“目標驅(qū)動訓(xùn)練”（他的提法），可以使得這一過程事半功倍，也就是還是認為可以，只不過需要按照他的方法去做。

通過這些人類全球最有代表性、也最知道底細的人的言論，基本可以得到較為確定的判斷：到2025年，大模型確實能比任何人都聰明——這個可能在OpenAI公司的新一代模型出來就差不多實現(xiàn)或者即將實現(xiàn)（年底出來后再發(fā)展一年？）。大概2028年或者2029年、最遲2030年，大家公認的AGI問世，就對人類形成完全碾壓態(tài)勢。

請記住這一點，不管你同不同意，都請記住，記住后看點東西慢慢理解或者推翻——如果你可以的話，你就牛了。

三、AGI要毀滅人，其實沒有自我意識就可以，因為其太神通廣大了，但悲哀的是其會有：

很顯然，如果AGI真的問世，其顯然都不需要什么自我意識，就可毀滅人類，因為其太神通廣大了，如果讓其控制過多資源——從理論上只要聯(lián)網(wǎng)就能控制（所有核武器，通訊設(shè)備、金融系統(tǒng)、電力石油天然氣、交通運輸、大壩，家用和公共聯(lián)網(wǎng)設(shè)備····），那毀滅人類，只需要一個指令或者一個“錯誤指令”，或者由于變異和學(xué)習(xí)而有了某種指向，就可推動毀滅人類計劃，人類拿什么應(yīng)對？其不僅同時控制的遠超人類、整合
高效利用也是。

但根據(jù)綜合態(tài)勢，其具備自我意識基本是基本趨勢，即便AGI剛問世的時候，還不大具備，但過不了多久，就會具備。

完全具備自我意識的AGI，就成了真正的上帝，毀滅不毀滅人類，只在其“一念之間”。

四、超強的不具備意識的AGI毀滅人類只需要隨機事件（有那個指向或接到那個指令即可）、而具有意識的AGI要毀滅人類只能訴諸于其是個永遠情緒穩(wěn)定的“好人”，且不會被其他病毒感染、不會被其它程序等影響，也就是無論如何，都不會去毀滅人類：

通過前面敘述，似乎只能如此假想，但這可能嗎？就像女性對另一半的要求一樣，只有弱者才希望強者足夠善良完美，就像奴隸期望奴隸主那樣一樣。

對此我要說，別傻了，希望永遠在自己，人類的希望就在人類自己。

你連自己都不信，何談其他？？

五、人類想要延續(xù)的話怎么辦？

人類如果不想延續(xù)了，那聽之任之就行，但如果想要延續(xù)，就得提前有效作為。

但反觀人類，你會可悲地發(fā)現(xiàn)，現(xiàn)有社會機制和體制、相關(guān)思維和作為，都完全無法遏制這一趨勢，大多數(shù)人還在懵懵懂懂之中忙于自己的生計···杰弗里·辛頓也認可這一點。

美國總統(tǒng)拜登簽署了抗拒AI侵犯人權(quán)的行政命令，歐盟也予以立法，美英、歐盟、日本、以色列、澳大利亞、加拿大等簽署“人工智能框架公約”，但稍微思考的人，就會知道這些舉措都無法阻止AGI的發(fā)展態(tài)勢、也無法阻止其毀滅人類的基本態(tài)勢，美國連立法都沒有，歐洲立法了但歐盟的執(zhí)行力堪憂、再說那個立法完全沒有上升到阻止相關(guān)態(tài)勢的高度，至于那個公約，還不如歐盟的立法。

由于美國是信息技術(shù)和AI的主陣地與主導(dǎo)，所以如果美國不真正作為，其實意義都不大，但美國要真正作為，在現(xiàn)行體制框架基礎(chǔ)上無法實現(xiàn)，首先由于兩黨的斗爭，AI方面稍具約束力的法案無法建立，即便建立了，也還是不夠，高度和力度都達不到，再就是現(xiàn)有國會和總統(tǒng)機制到底能否應(yīng)對AI這一人類的根本性威脅的問題？要知道現(xiàn)行國會和總統(tǒng)，經(jīng)常連一些具體的細節(jié)問題都無法處理，比如援助烏克蘭和以色列的問題就能爭吵幾個月到一兩年，且力度不夠，還有具體行政機構(gòu)的問題，何談人類根本性問題
。

西方體制本就是建立在如何為人和社會發(fā)展、經(jīng)濟和科技發(fā)展提供盡可能好的服務(wù)的，幾圈體制則更多為
如何保持控制、自保服務(wù)的。
你讓這些體制克服和應(yīng)對解決社會人類整體和自身導(dǎo)致的根本性問題，那無異于天方夜譚，關(guān)羽都只能做到讓華佗給自己刮骨療毒，沒有人能自己給自己做心臟和
腦外科手術(shù)并深度
清毒。

很明顯的，導(dǎo)致問題的人類現(xiàn)行體制和機制、相關(guān)思維和作為，都無法反過來根本性應(yīng)對AI毀滅人類的趨勢（AI的發(fā)展，基礎(chǔ)是信息技術(shù)革命，是整個人類、包括體制機制觀念思維等綜合導(dǎo)致的趨勢），也無法有效應(yīng)對其他次一級的人類根本性困境，比如社會分裂碎裂、人性墮落沉淪，以及基本的自然環(huán)境和資源問題。

所以要真正解決克服，只有一途：必須跳出這些來思考問題，個人的主張是社會形態(tài)重構(gòu)、或者叫人的革命，辯證回歸人本來和應(yīng)該的狀態(tài)——“人正視又高于現(xiàn)實世界”的狀態(tài)，從社會結(jié)構(gòu)和思想觀念體系重構(gòu)兩個層面落實：

比如美國，在兩院之外，設(shè)立人本院，對于一般性事務(wù)不遇干涉，但在人類基本問題，比如社會分裂碎裂、人性墮落沉淪，尤其AI領(lǐng)銜的信息技術(shù)革命對人的沖擊和控制、毀滅的問題，享有最高決策權(quán)和處置權(quán)，下設(shè)相關(guān)委員會。再就是建立專門負責(zé)應(yīng)對AI的部門，可以叫信息與AI部。對于各自的權(quán)責(zé)都予以立法確定，包括憲法。

從而讓社會結(jié)構(gòu)，形成“人正視又高于現(xiàn)實世界”的狀態(tài)。

再就是思想觀念方面，也形成相應(yīng)狀態(tài)。讓社會的內(nèi)外層面互相支撐和影響、完善，把人挺到最高，從而最大化消除和弱化對人的不利因素，讓人走向最遠。

文中只能語焉不詳，具體，可參閱11月下旬出版的《世界主要形態(tài)及走向-人類自救時間或只剩不到10年》。

對，這本書的意旨就是遏制人類被毀滅的趨勢，為人類中流擊水、奮為砥柱，所立者甚大！當然，最后或許用不上，但作為個人，確實是窮盡一切可能也窮盡了心力·····

人類要長久延續(xù)，就無論如何都應(yīng)該從盡可能廣泛的思考和討論開始，從而盡快促成有效和相對完善的行動和作為，時間要盡可能快。

六、其實10年都是較為保守的說法，人類在幾年內(nèi)AGI問世前就得有個框架，然后和AGI賽跑搶時間：

最大的尷尬在于，人類的改變窗口期確實沒多久了，其實10年都是保守說法，幾年內(nèi)AGI就會出來，之后只要其趨向成熟，就具備毀滅人類的能力和可能了，至于到底會否毀滅，都不怎么需要自我意識，只需要一個契機，比如接到相關(guān)指令、或者由于“變異”或被病毒感染等而具備向人類整體發(fā)難的“意向”或者“趨向”即可，這個契機，會以無數(shù)隨機的情況出現(xiàn)。可悲的是，其確實會有意識，那樣的話，人類會不會被毀滅，只在其“一念之間”，其一秒好多億好多億次的計算，其中有一次·······

所以說10年，可能都過于保守，你想等AGI出來，在讓其成熟和完善、尤其更發(fā)展（AI的發(fā)展階段，以年算有點長，以月差不多），人類還有什么機會可言？你即使毀掉一個AGI，但綜合基礎(chǔ)早都造就——這是人類發(fā)展綜合趨勢使然、是整個人類在推動，有無數(shù)的AGI冒出，每個都可快速毀滅人類。

要之，人類必須在AGI問世之前就有個大體框架，之后和AGI賽跑，AGI指數(shù)級發(fā)展，人類竭盡所能完善自己的社會形態(tài)整體，看能否在被毀滅之前遏住這種趨勢。

人類不僅和AI、尤其AGI賽跑，也和自己，和時間，就看誰能趕到前面·····

雖然理論上如此，但你反觀這個人間世······或許最后真·····

公號：邵旭峰域

備：邵旭峰傳媒