新智元報道

　　編輯：編輯部 JYH

　　【新智元導讀】奧特曼親筆長文「溫和的奇點」，在AI圈內掀起巨震。他預示了人類正邁向超級智能時代，奇點不會一夜襲來，而是悄然滲透。

　　o3-pro炸場后，奧特曼第一時間發布了最新博文——溫和的奇點。

　　文章一開頭，緊迫感便撲面而來：

　　人類已跨越AI發展的「事件視界」，進入指數級加速發展階段。

　　奧特曼認為，奇點并非一夜之間到來，而是悄然滲透：驚奇變為常態，常態變為底線。

　　內文中，他還對未來5年技術時間線，給出了自己的預測：

　　2025年：智能體可進行真實認知工作（如編程），工作方式正在被重塑；

　　2026年：AI可能具備發現新知識的能力；

　　2027年：機器人有望在物理世界中執行任務；

　　2030年：個體的產出能力遠超2020年，社會生產方式將有巨大變化。

　　值得一提的是，這是奧特曼最后一篇親筆文章，沒有一點AI含量。

　　他還指出，另一個被忽視部分內容，就是ChatGPT每次查詢消耗量。

　　ChatGPT平均每次查詢需要消耗約0.34瓦時的電能，大致相當于一臺烤箱運行1秒多鐘，或者一個節能燈泡點亮幾分鐘。

　　此外，每次查詢還需耗約0.000085加侖的水，差不多是一茶匙的1/15。

　　接下來，一起跟著奧特曼的視角窺探AI未來。

　　人類跨越臨界點，

　　就是現在

　　我們已經越過了事件視界（event horizon），「飛升」已經開始。

　　在天體物理學中，事件（event）如果超過事件視界，將無法影響外部觀察者

　　人類距離構建數字超級智能僅一步之遙，但至少到目前為止，這個過程遠比想象的要平穩。

　　機器人還沒滿大街跑，大多數人也沒有整天和AI對話。我們依舊會生老病死，也仍然無法輕松進入太空，宇宙中還有許多未解之謎。

　　然而，我們確實已構建出在諸多方面遠超人類的智能系統，它們或將極大地提升生產力。那些曾被認為最不可能的科學突破已經完成；正是這些來之不易的洞見，催生了GPT-4和o3這樣的系統，而它們將引領我們走向更遠的未來。

　　在多方面，AI將為世界做出貢獻。

　　其中，AI將推動科學加速進步和提高生產力，為生活質量帶來巨大飛躍。未來會比現在美好得多。科學進步是整體發展的最大引擎，一想到未來無限的可能性，就令人無比激動。

　　從某種重要的意義上說，ChatGPT已比歷史上任何人都要更強大。

　　每天有數億人依賴它處理日益重要的任務：微小的新功能可能產生巨大的積極影響，而微小的偏差在數億人的使用下，也能造成巨大的負面沖擊。

　　五年時間表

　　2030成下個節點

　　2025年，能勝任真正認知工作的AI智能體已經到來，編寫代碼的方式將被永久改變。2026年，人類或許會迎來能夠洞察新知的系統。2027年，可以在物理世界執行任務的機器人或將問世。

　　更多的人將能夠創造軟件和藝術。但世界對這兩者的需求也將水漲船高。只要擁抱新工具，專家們很可能依舊遙遙領先于新手。

　　總而言之，到2030年，個人的工作效率將遠超2020年，這將是驚人的變化，很多人都將找到從中受益的方式。

　　在一些非常重要的方面，2030年或許不會有天翻地覆的差異。大家仍會關愛家人、表達創意、享受游戲、湖中暢游。

　　但在其他同樣重要的方面，2030年可能會與過往任何時代都截然不同。我們尚不知曉人工智能可以超越人類多少，但即將找到答案。

　　在2030年代，智慧與能源——即創意，以及將創意變為現實的能力——將會變得空前充裕。

　　長久以來，這兩者一直是限制人類進步的根本因素；若能擁有充裕的智慧和能源（以及良好的治理），我們理論上便可擁有一切。

　　AI自轉飛輪越來越快

　　奇點悄然滲透

　　我們已然生活在令人難以置信的數字智能時代，在最初的震驚過后，大多數人已習以為常。

　　我們很快就從驚嘆AI能生成文筆優美的段落，轉而期待它能創作出文筆優美的小說；從驚嘆它能做出挽救生命的醫療診斷，轉而期待它能研發出治愈方案；從驚嘆它能編寫一個小型程序，轉而期待它能創立一家全新公司。

　　奇點的發展就是如此：昔日奇跡淪為尋常之物，再變為平平無奇的標配。

　　從科學家口中，OpenAI得知，他們的生產力比使用AI前提高了兩到三倍。

　　高級AI，意義非凡，但或許沒有什么比用它來加速AI自身的研究更重大的了。我們或許能發現新的計算載體、更優的算法，以及其他意外之喜。若能用一年甚至一個月完成十年的研究，進步的速度顯然將完全不同。

　　從今往后，已有的工具將幫助我們獲得更深刻的科學洞見，并協助我們創造更優異的AI系統。

　　當然，這與AI系統完全自主地更新代碼并非一回事，但它無疑已是遞歸自我改進的雛形。其他的自我強化循環，也已開始運轉。

　　巨大的經濟價值創造，開啟了基礎設施建設加速擴張的飛輪，以支撐這些日益強大的AI系統。

　　而機器人制造其他機器人，也已不再遙遠，而某種意義上，這也包括數據中心建造其他數據中心。

　　如果我們必須用傳統方式制造第一批百萬臺人形機器人，但之后它們就能運作整個供應鏈——開采和提煉礦物、駕駛卡車、運營工廠等等——來制造更多機器人，而這些機器人又能建造更多芯片制造設施、數據中心等，那么進步的速度顯然會大不相同。

　　隨著數據中心生產實現自動化，智能的成本最終應會趨近于電力成本。

　　（人們常好奇ChatGPT每次查詢的能耗：平均每次查詢約消耗0.34瓦時，相當于烤箱運行一秒多鐘，或高效節能燈泡工作幾分鐘。同時消耗約0.000085加侖水，約合十五分之一茶匙。）

　　逼近AGI終點，AI奇跡成為常態

　　科技進步將持續加速，而人類也將一如既往地適應一切變化。

　　固然會有陣痛，比如某些行業的工作崗位整體消失，但另一方面，世界財富的增長將如此迅猛，以至于我們能夠認真探討以往無法想象的新政策構想。

　　或許，我們不會一蹴而就地訂立全新的社會契約，但幾十年后回望，量變終將引發質變。

　　以史為鑒，我們將找到新的目標和新的需求，并迅速吸收新工具。期望會上升，但能力提升同樣迅速，所有人的生活品質都會變得更好。

　　工業革命后的職業變遷，就是很好的例證

　　人類將為彼此創造出愈加美好的事物。

　　與AI相比，人類擁有一種長期、重要且獨特的優勢：我們天生就關心他人及其所思所為，而對機器則不太在意。

　　一千年前的農夫，如果看到今天許多人的工作，會說這根本就是「假工作」，會認為現代人不過是吃飽喝足、驕奢淫逸后，玩著游戲自娛自樂。

　　一千年后的人們看待我們這個時代的工作時，真希望他們也會覺得那是非常「假」的工作，但毫不懷疑，從事者會感到它們極其重要，心滿意足。

　　新的奇跡涌現速度驚人。

　　今天，我們甚至難以想象2035年會有什么新發現——

　　或許我們今年剛解開高能物理之謎，明年就開始了太空殖民；又或許今年在材料科學上取得重大突破，明年就擁有了真正的高帶寬腦機接口。

　　許多人會選擇一如既往地生活，但至少有一部分人可能會決定「接入」。

　　展望未來，這一切似乎匪夷所思。但當我們身處其中時，也許會感到震撼，卻仍能應對自如。

　　從相對的視角來看，奇點漸進發生，融合緩慢進行。

　　我們正攀登在技術指數級增長的漫長曲線上：向前看時，它似乎陡峭得無法攀登；向后看時，卻又顯得平坦無奇。但它始終是一條平滑的曲線。

　　（試想2020年時，若有人說2025年就會出現接近AGI的產物，聽起來會有多么不可思議，再對比一下過去這五年的真實歷程。）

　　超級智能大腦，任重道遠

　　巨大的機遇，也伴隨著嚴峻的挑戰。

　　我們固然需要從技術和社會層面解決安全問題，但鑒于其巨大的經濟影響，讓超級智能得到廣泛普及也至關重要。

　　最佳路徑或許是這樣的：

　　首先，解決對齊問題（alignment problem）。這意味著必須能強有力地保證，AI系統會朝著人類集體長遠追求的真正目標去學習和行動。

　　社交媒體的信息流，便是目標錯位的AI例子：背后的算法極其擅長讓你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到這一點，是利用了你大腦的某種機制，而這種機制會凌駕于你的長期偏好之上

　　然后，專注于讓超級智能變得廉價、易得，并且不過度集中于任何個人、公司或國家。

　　社會是富有韌性、創造力且適應力極強的。如果能駕馭人類的集體意愿和智慧，那么盡管會犯下許多錯誤，有些事態會變得非常糟糕，但我們終將快速學習和適應，并利用這項技術實現效益最大化、風險最小化。

　　在社會必須劃定的寬泛邊界內，給予用戶充分的自由，這一點似乎至關重要。全世界越早開始探討這些邊界，以及定義集體對齊（collective alignment），就越有利。

　　整個行業，而非僅是OpenAI，正在為世界構建一個大腦。

　　它將是高度個性化的，人人皆可輕松使用；我們唯一的瓶頸，將是好的創意。

　　長久以來，創業圈的技術人員總是取笑那些「點子大王」——他們有想法，卻需要找團隊來實現。但在奧特曼自己看來，這些人即將迎來自己的高光時刻。

　　如今，OpenAI扮演著多重角色，但首要身份，是一家超級智能研究公司。

　　前路漫漫，任重道遠，但大部分道路已被照亮，未知領域正迅速消散。能夠投身于我們所熱愛的事業，我們倍感榮幸。

　　「廉價到無需計量的智能」已觸手可及。這番話聽起來或許很瘋狂，但倘若我們在2020年就告訴您世界將是今天的樣貌，那聽起來恐怕比我們眼下對2030年的預測還要瘋狂。

　　愿我們能平穩、指數級且波瀾不驚地邁向超級智能時代。

　　參考資料：

　　https://blog.samaltman.com/the-gentle-singularity

　　https://x.com/sama/status/1932547247243505924