轉(zhuǎn)載聲明：除調(diào)整格式外，不得對(duì)原文做改寫、改編。原創(chuàng)不易，謝謝！E-mail:yellow@aliyun.com

?聲明：本文為原創(chuàng)文本，非生成式，轉(zhuǎn)載請(qǐng)注明出處！

商務(wù)咨詢/顧問(wèn)/請(qǐng)@yellowscholar?作者：黃先生斜杠青年

＃科學(xué)哲學(xué) ＃技術(shù)和人工智能 ＃未來(lái)

當(dāng) AI 接管科學(xué)實(shí)踐時(shí)，我們可能會(huì)發(fā)現(xiàn)結(jié)果很奇怪且難以理解。我們應(yīng)該擔(dān)心嗎？

我們這個(gè)時(shí)代的科學(xué)是計(jì)算的。如果沒(méi)有模型、模擬、統(tǒng)計(jì)分析、數(shù)據(jù)存儲(chǔ)等，我們對(duì)世界的了解將增長(zhǎng)得慢得多。幾十年來(lái)，我們?nèi)祟惖幕竞闷嫘脑谝欢ǔ潭壬鲜怯晒韬蛙浖M足的。

已故哲學(xué)家保羅·漢弗萊斯 （Paul Humphreys） 稱之為科學(xué)的“混合情景”：科學(xué)過(guò)程的一部分外包給計(jì)算機(jī)。然而，他也暗示這種情況可能會(huì)改變。盡管漢弗萊斯在十多年前就開始撰寫這些想法，早在生成式人工智能 （AI） 興起之前，他就具有遠(yuǎn)見卓識(shí)，他認(rèn)識(shí)到人類領(lǐng)導(dǎo)科學(xué)過(guò)程的日子可能屈指可數(shù)。他確定了科學(xué)的后期階段——他稱之為“自動(dòng)化場(chǎng)景”，即計(jì)算機(jī)完全接管科學(xué)。在這個(gè)未來(lái)，用于科學(xué)推理、數(shù)據(jù)處理、模型制作和理論化的計(jì)算能力將遠(yuǎn)遠(yuǎn)超過(guò)我們自己的能力，以至于不再需要我們?nèi)祟悺C(jī)器將繼續(xù)我們?cè)?jīng)開始的科學(xué)工作，將我們的理論帶到新的和不可預(yù)見的高度。

根據(jù)一些消息來(lái)源，人類對(duì)科學(xué)的認(rèn)識(shí)主導(dǎo)地位的終結(jié)即將到來(lái)。最近一項(xiàng)對(duì)人工智能研究人員的調(diào)查顯示，在一個(gè)世紀(jì)內(nèi)，人工智能有可能取代我們的每一項(xiàng)工作（即使有些工作我們寧愿留給自己，比如成為陪審團(tuán)成員）。對(duì)于這樣的世界是否或何時(shí)可能，你可能有不同的看法，但我請(qǐng)求你暫時(shí)暫停這些觀點(diǎn)，想象一下這樣的人工智能最終是可能的。它們的發(fā)展將意味著我們可以將科學(xué)工作交給我們?cè)谡J(rèn)識(shí)論上優(yōu)越的人工智能后代，他們會(huì)比我們想象的更快、更好。

我是斜杠青年，一個(gè)PE背景的雜食性學(xué)者！?致力于剖析如何解決我們這個(gè)時(shí)代的重大問(wèn)題！?使用數(shù)據(jù)和研究來(lái)了解真正有所作為的因素！

這確實(shí)是一個(gè)奇怪的世界。首先，人工智能可能會(huì)決定探索人類科學(xué)家沒(méi)有動(dòng)力或沒(méi)有動(dòng)力追求的科學(xué)興趣，從而創(chuàng)造全新的發(fā)現(xiàn)途徑。他們甚至可能獲得超出我們大腦能夠理解的世界知識(shí)。這將給我們?nèi)祟悗?lái)什么，我們應(yīng)該如何應(yīng)對(duì)？我認(rèn)為我們現(xiàn)在需要開始提出這些問(wèn)題，因?yàn)樵趲资陜?nèi)，我們所知道的科學(xué)可能會(huì)發(fā)生深刻的變化。

雖然聽起來(lái)像科幻小說(shuō)中的內(nèi)容，但漢弗萊斯的科學(xué)自動(dòng)化場(chǎng)景將是長(zhǎng)達(dá)幾個(gè)世紀(jì)的趨勢(shì)中的又一步。人類從來(lái)沒(méi)有真正獨(dú)自進(jìn)行過(guò)科學(xué)研究。長(zhǎng)期以來(lái)，我們一直依賴工具來(lái)增強(qiáng)我們對(duì)世界的觀察：顯微鏡、望遠(yuǎn)鏡、標(biāo)準(zhǔn)化的尺子和燒杯等等。如果沒(méi)有儀器，我們無(wú)法直接或精確地觀察到許多物理現(xiàn)象，例如溫度計(jì)、蓋革計(jì)數(shù)器、示波器、量熱儀等。

計(jì)算機(jī)的引入代表了人類在科學(xué)中以中心化邁出的又一步：漢弗萊斯的混合情景。正如瑪格特·李·謝特利 （Margot Lee Shetterly） 的《隱藏人物》（2016 年）一書（以及隨后的電影）中記錄的一個(gè)突出例子，美國(guó)的第一次太空飛行需要包括凱瑟琳·約翰遜在內(nèi)的人類數(shù)學(xué)家進(jìn)行計(jì)算。不到十年后，到美國(guó)登月任務(wù)時(shí)，大部分計(jì)算已經(jīng)轉(zhuǎn)移到計(jì)算機(jī)中。

我們對(duì)科學(xué)的貢獻(xiàn)仍然至關(guān)重要：我們?nèi)祟惾匀话l(fā)號(hào)施令

在接下來(lái)的幾十年里，計(jì)算處理和能力持續(xù)呈對(duì)數(shù)增長(zhǎng)，計(jì)算價(jià)格也隨之下降。我們現(xiàn)在正處于我們可以稱之為高級(jí)混合科學(xué)的階段，對(duì)計(jì)算系統(tǒng)的依賴更加嚴(yán)重。例如，哲學(xué)家瑪格麗特·莫里森 （Margaret Morrison） 解釋了計(jì)算模擬對(duì)于希格斯玻色子的發(fā)現(xiàn)至關(guān)重要——幫助科學(xué)家知道要尋找什么，并從高能碰撞中整理數(shù)據(jù)。

現(xiàn)在人工智能已經(jīng)開始對(duì)科學(xué)產(chǎn)生重大影響。例如，AlphaFold 是一種人工智能，旨在幫助預(yù)測(cè)蛋白質(zhì)的化學(xué)組成將如何折疊。雖然人類可以獨(dú)立于計(jì)算機(jī)完成這項(xiàng)工作，但它既耗時(shí)又費(fèi)力且昂貴。AlphaFold 的創(chuàng)建者 Google DeepMind 聲稱它節(jié)省了“數(shù)億年的研究時(shí)間”。在科學(xué)領(lǐng)域也可以看到類似的好處：分析天文學(xué)和基因組學(xué)中的超大型數(shù)據(jù)集、開發(fā)數(shù)學(xué)中的新證明、預(yù)測(cè)天氣、開發(fā)新藥等等。

當(dāng)計(jì)算 AI 的貢獻(xiàn)開始以“數(shù)億年”來(lái)衡量時(shí)，人們開始感覺(jué)我們?nèi)祟愂切〗M項(xiàng)目中表現(xiàn)不佳的成員。因此，我們可能想知道我們是否已經(jīng)處于自動(dòng)化場(chǎng)景中。然而，我們還沒(méi)有達(dá)到這個(gè)目標(biāo)。我們對(duì)科學(xué)的貢獻(xiàn)仍然至關(guān)重要：我們?nèi)祟惾匀话l(fā)號(hào)施令——我們確定科學(xué)問(wèn)題，我們解釋結(jié)果，并最終決定科學(xué)的進(jìn)展。

如果我們遵循漢弗萊斯的軌跡，我們科學(xué)的認(rèn)識(shí)論寶座的完全放棄只會(huì)在以后的階段發(fā)生。在這一點(diǎn)上，人工智能超級(jí)智能不僅能夠完成我們?yōu)樗鼈冊(cè)O(shè)定的任務(wù)（混合場(chǎng)景的延續(xù)），而且還能夠根據(jù)自己獨(dú)立確定的一套理論美德和價(jià)值觀來(lái)設(shè)定自己的任務(wù)：它們自己的研究議程、數(shù)據(jù)收集、建模和理論——這是一門完全屬于自己的科學(xué)。

我值得在這里停下來(lái)，驚嘆于不受人類物理和認(rèn)知限制的人工智能超級(jí)智能所開放的可能性。許多科學(xué)任務(wù)超出了人類的可能性范圍，因?yàn)橛肋h(yuǎn)沒(méi)有資金來(lái)追求這個(gè)問(wèn)題，或者因?yàn)楦緵](méi)有足夠的人類興趣。例如，當(dāng)我寫這篇文章時(shí)，我正在公園里看著一片部分腐爛的葉子。也許人工智能超級(jí)智能會(huì)有興趣開發(fā)一個(gè)預(yù)測(cè)模型，該模型根據(jù)樹木的種類、葉子的大小、與各種微生物生命的歷史接觸、是否存在陽(yáng)光和水分等因素，精確地解釋任何給定葉子的腐爛過(guò)程和速率——這是一個(gè)極其復(fù)雜的問(wèn)題，這些細(xì)節(jié)沒(méi)有明顯的價(jià)值。或者，為了回答網(wǎng)友曾經(jīng)問(wèn)過(guò)我的一個(gè)問(wèn)題，也許超級(jí)智能能夠開發(fā)一個(gè)模型，精確預(yù)測(cè)他留在山上的雪球的水分子何時(shí)會(huì)流過(guò)他家，進(jìn)入排干山系的河流。這樣的預(yù)測(cè)需要一個(gè)極其復(fù)雜和詳細(xì)的模型，包括流域、流體動(dòng)力學(xué)、氣候和系統(tǒng)的一系列其他特征。

這并不是說(shuō)我們?nèi)祟愑肋h(yuǎn)無(wú)法回答這些問(wèn)題。如果有足夠的關(guān)注和資金，我懷疑科學(xué)家可以針對(duì)這些和其他深?yuàn)W的現(xiàn)象開發(fā)有效的預(yù)測(cè)模型。但現(xiàn)實(shí)是我們不會(huì)。無(wú)論好壞，今天的科學(xué)都受到強(qiáng)烈的人為因素的影響：經(jīng)濟(jì)價(jià)值、政治優(yōu)先事項(xiàng)、職業(yè)前景、文化趨勢(shì)以及一系列人類偏見和信仰。想象一下，如果所有這些包袱都可以拋棄，那將是怎樣的科學(xué)。

當(dāng)超級(jí)智能執(zhí)行他們自己的研究議程時(shí)，他們的工作對(duì)我們來(lái)說(shuō)將變得難以理解

自動(dòng)化場(chǎng)景不僅允許對(duì)我們不能或不愿從事的科學(xué)項(xiàng)目進(jìn)行有效探索。盡管人工智能超級(jí)智能可能會(huì)繼續(xù)在我們當(dāng)前理論的范式中工作，但它們沒(méi)有理由必須這樣做——它們可能會(huì)很快選擇重新開始新的世界理論。同樣，盡管他們可能使用人類科學(xué)家熟悉的數(shù)學(xué)和符號(hào)，但他們不會(huì)受到這些慣例的束縛——他們可能會(huì)很快開發(fā)出新的數(shù)學(xué)和系統(tǒng)來(lái)表達(dá)這些。

鑒于這種人工智能可能很快拋棄人類的認(rèn)識(shí)包袱（在我看來(lái)，可能性），我們可以選擇遵循維特根斯坦的推理路線，將自動(dòng)化場(chǎng)景視為他們開始說(shuō)話和發(fā)展獨(dú)立和新的科學(xué)語(yǔ)言的階段。路德維希·維特根斯坦 （Ludwig Wittgenstein） 在《哲學(xué)研究》（Philosophical Investigations，1953 年）中有一句名言（一如既往地神秘莫測(cè)）：“如果獅子會(huì)說(shuō)話，我們就無(wú)法理解它。”盡管這種說(shuō)法感覺(jué)自相矛盾，但維特根斯坦的觀點(diǎn)是，語(yǔ)言的意義與人類的內(nèi)在體驗(yàn)深深嵌入并交織在一起。科學(xué)也是如此。當(dāng)超級(jí)智能開始制定和執(zhí)行自己的研究議程時(shí)，他們所做的工作將因此變得難以理解，因?yàn)槲覀儗⑷狈斫馑麄兊目茖W(xué)所需的內(nèi)在視角。在我們看來(lái)，他們的研究將是一門為理論目標(biāo)而創(chuàng)造的科學(xué)，其目的是我們不知道什么，以我們不知道什么的方式進(jìn)行解釋。

我們?nèi)祟惖恼J(rèn)識(shí)能力至少有可能有限：我們無(wú)法理解的數(shù)不清的數(shù)學(xué)，或者超出我們?nèi)S經(jīng)驗(yàn)的多維概念。其他動(dòng)物的智力能力存在局限性（試著向有史以來(lái)最聰明的黑猩猩解釋廣義相對(duì)論）這一事實(shí)讓我們有理由認(rèn)為，我們自己的智力也可能存在局限性：想法太復(fù)雜而無(wú)法理解。即使假設(shè)我們不受有限的認(rèn)識(shí)能力的約束，也存在一個(gè)問(wèn)題，即人工智能超級(jí)智能的推理在實(shí)踐中可能超出了我們的能力。例如，理解自動(dòng)化場(chǎng)景的科學(xué)可能需要同時(shí)考慮數(shù)百個(gè)復(fù)雜模型，每個(gè)模型都有數(shù)百個(gè)參數(shù)，但沒(méi)有一個(gè)參數(shù)與熟悉的人類概念相關(guān)聯(lián)。雖然我們可能可以單獨(dú)理解這些參數(shù)（甚至可能是模型），但我們?nèi)狈ν瑫r(shí)將它們放在一起的能力。

撇開你對(duì)技術(shù)、人工智能和奇點(diǎn)的偏愛(ài)不談，以上內(nèi)容在你看來(lái)要么非常黯淡，要么非常令人興奮。如果你和我一樣，這一切都會(huì)讓你覺(jué)得很奇怪。如果完全自動(dòng)化場(chǎng)景的結(jié)果超出了我們的理解范圍，那么我們?yōu)槭裁匆度虢?jīng)濟(jì)資源和智力人才來(lái)發(fā)展它呢？盡管這個(gè)問(wèn)題經(jīng)常被未來(lái)會(huì)到來(lái)的扁平斷言所掃除，無(wú)論我們喜歡與否，但我認(rèn)為在我們開始故意放棄科學(xué)的認(rèn)識(shí)論寶座之前，我們值得花時(shí)間確定我們可能有什么理由來(lái)創(chuàng)造這樣的未來(lái)。

其中一個(gè)原因可能是我們認(rèn)為積極的進(jìn)步會(huì)隨之而來(lái)。也許超級(jí)智能偶爾會(huì)創(chuàng)造一些東西：技術(shù)、資源或解決問(wèn)題的新方法。由于我已經(jīng)用完了遠(yuǎn)遠(yuǎn)超過(guò)本文中分配的推測(cè)配額，我將對(duì)這些產(chǎn)品究竟是什么保持開放態(tài)度，簡(jiǎn)單地指出，超級(jí)智能可能偶爾會(huì)向我們發(fā)送它認(rèn)為對(duì)人類有益的產(chǎn)品。然后，人類工程師（如果還有誰(shuí)自己還沒(méi)有被取代）可以采用這些新技術(shù)并確定它們的用途，即使他們并不完全了解它們的工作原理。這類似于我不理解我的顯示器或文字處理器創(chuàng)建和顯示視覺(jué)文檔的過(guò)程，但我可以在寫這篇文章時(shí)使用它們。這項(xiàng)任務(wù)將不太像今天的科學(xué)和工程，而更像是簡(jiǎn)單的發(fā)現(xiàn)，那種原始的識(shí)別，例如，在建造庇護(hù)所時(shí)，藤蔓可以很好地將樹枝綁在一起。這類似于偶然發(fā)現(xiàn)世界上的某些資源或物質(zhì)（就像我們偶然發(fā)現(xiàn)煤或青霉素一樣）。可能確實(shí)還會(huì)涌現(xiàn)出第二種科學(xué)：一種對(duì) AI 賦予我們的東西的逆向工程形式，以推進(jìn)和修改我們自己對(duì)世界的理論理解。

也許我們可能會(huì)認(rèn)為，在宇宙中傳播智能是我們的道德責(zé)任或命運(yùn)

實(shí)現(xiàn)人工智能超智能科學(xué)的另一個(gè)原因是審美。當(dāng)人們考慮他作為一個(gè)社會(huì)對(duì)科學(xué)的資助時(shí)，審美原因已經(jīng)具有強(qiáng)大的激勵(lì)因素。雖然他沒(méi)有時(shí)間也沒(méi)有能力理解所有的科學(xué)（誰(shuí)能呢？），但我發(fā)現(xiàn)有這么多聰明的科學(xué)家追求他們?nèi)祟惖暮闷嫘氖敲篮煤兔篮玫摹词顾麄儾⒉欢紝?duì)我的生活或我對(duì)世界的理解產(chǎn)生積極影響。知道世界正在被認(rèn)識(shí)、研究和理解，這在美學(xué)上是令人愉悅的。這能轉(zhuǎn)化為非人類科學(xué)家嗎？也許不是一蹴而就。然而，已經(jīng)學(xué)會(huì)與 AI 共存的后代甚至可能將其視為一個(gè)良好社會(huì)的標(biāo)志，即它愿意實(shí)現(xiàn)這種超人類的理解。

或者，人類可能出于善意追求自動(dòng)化場(chǎng)景：因?yàn)槲覀冋J(rèn)為人工智能超級(jí)智能追求自己的先進(jìn)科學(xué)是件好事。雖然我們可能會(huì)覺(jué)得人工智能超級(jí)智能會(huì)知道我們不知道的事情，這令人沮喪——甚至令人沮喪——但出于道德義務(wù)或?qū)ξ覀兊娜斯ぶ悄芎蟠纳埔猓覀兛赡芡瑯幼非笏?/p>

還有其他動(dòng)機(jī)可能會(huì)導(dǎo)致自動(dòng)化場(chǎng)景成為意外的結(jié)果。例如，也許我們認(rèn)為將智能傳播到宇宙中是我們的道德責(zé)任或命運(yùn)。如果這種智能恰好在星際旅程中追求自動(dòng)化科學(xué)，那么就這樣吧。

我們可能決定不追求自動(dòng)化場(chǎng)景的原因有很多。也許人工智能超級(jí)智能做出并傳遞給我們的發(fā)現(xiàn)會(huì)產(chǎn)生新的、可怕的武器。或者，也許我們認(rèn)為，由于它們需要一些內(nèi)部的、不受制約的機(jī)構(gòu)，這將增加世界末日情景的風(fēng)險(xiǎn)，例如人類被奴役或滅絕。也許只是擔(dān)心一些超級(jí)智能將開始以人類不可思議的傲慢行事，以危險(xiǎn)、不道德或違背人類共同價(jià)值觀的方式進(jìn)行實(shí)驗(yàn)。

但是，盡管存在這些擔(dān)憂，但如果它在技術(shù)上成為可能，我們似乎不太可能能夠阻止它的發(fā)展。可以說(shuō)，我們最終會(huì)得到自動(dòng)化場(chǎng)景的最可能原因是因?yàn)槲覀兏緹o(wú)法逃脫資本和競(jìng)爭(zhēng)的力量。我們可能沒(méi)有多想就到達(dá)那里，僅僅是因?yàn)槲覀兛梢曰蛞驗(yàn)橛腥讼胂葮?gòu)建它。未來(lái)可能只是發(fā)生在我們身上，無(wú)論我們是否反思性地想要它。

我們將被好奇心所困，無(wú)法理解和解釋我們周圍的自然世界

細(xì)心的讀者會(huì)注意到，在追求自動(dòng)化場(chǎng)景的一連串可能原因中，有幾個(gè)動(dòng)機(jī)是缺失的：最值得注意的是，我們目前追求科學(xué)的所有原因。我們不會(huì)出于增強(qiáng)自身對(duì)世界的知識(shí)和理解，能夠更好地解釋現(xiàn)象，或?qū)ψ匀皇澜绫憩F(xiàn)出更大的干預(yù)控制而追求自動(dòng)化場(chǎng)景。這些不能成為追求自動(dòng)化場(chǎng)景的原因，因?yàn)樗鼈儽荒欠N科學(xué)排除在外。自動(dòng)化科學(xué)從人類手中奪走了認(rèn)識(shí)論的寶座，將我們排除在新的、可能超出我們知識(shí)范圍的發(fā)現(xiàn)的內(nèi)部視角之外。因此，它不會(huì)滿足我們?nèi)祟悓?duì)理解、解釋、知識(shí)或控制的渴望。也許隨著時(shí)間的推移，我們可以學(xué)會(huì)放棄這些欲望——成為一個(gè)不感興趣和沒(méi)有好奇心的物種。但我對(duì)此表示懷疑。就像未來(lái)一樣，我懷疑這些愿望無(wú)論我們喜歡與否都會(huì)到來(lái)。

那么，我們將做什么呢？在他對(duì)自動(dòng)化場(chǎng)景的最初介紹中，漢弗萊斯建議自動(dòng)化場(chǎng)景將取代人類科學(xué)。我不同意。既然我們對(duì)理解、解釋、知識(shí)和控制的渴望仍然存在，我們就不能不采取行動(dòng)來(lái)解決這些愿望——繼續(xù)從事科學(xué)研究。我們?nèi)祟悇?chuàng)造美麗的事物，在友誼和浪漫中追求人際關(guān)系，尋找和構(gòu)建生活的意義。我們追求科學(xué)的動(dòng)機(jī)也是如此。我們將被好奇心所困，無(wú)法理解和解釋我們周圍的自然世界。

如果自動(dòng)化場(chǎng)景成為現(xiàn)實(shí)，它似乎必須作為一些新的、替代的、次要的路徑——不是替代，而是補(bǔ)充。兩個(gè)物種，并肩追求科學(xué)，具有不同的動(dòng)機(jī)、興趣、框架和理論。也許人工智能超級(jí)智能也會(huì)對(duì)科學(xué)的某些部分不太感興趣，例如人類對(duì)更好地了解我們自己的思想、選擇、人際關(guān)系和健康的追求。

事實(shí)上，如果我們要保持人類身份（我只能希望我們會(huì)這樣做），我們必須繼續(xù)追求科學(xué)。如果我們不是追求美、建立友誼、構(gòu)建意義、無(wú)可救藥的好奇動(dòng)物，我們到底是什么？也許是我有限的想象力阻止了我設(shè)想一個(gè)我們已經(jīng)放棄了這些人類欲望的未來(lái)世界。有很多超人類主義者可能會(huì)這么認(rèn)為。但我并不認(rèn)為在美、愛(ài)、意義和科學(xué)中看到善良是缺乏創(chuàng)造力。恰恰相反。我，作為一個(gè)人，在我們無(wú)望的好奇心中抱有希望。

了解更多時(shí)間深度剖析，盡在于此@黃先生斜杠青年

商業(yè)咨詢和顧問(wèn)業(yè)務(wù)，請(qǐng)@yellowscholar

關(guān)注我，帶你先看到未來(lái)！?

轉(zhuǎn)載聲明：除調(diào)整格式外，不得對(duì)原文做改寫、改編。原創(chuàng)不易，謝謝！E-mail:yellow@aliyun.com

?聲明：本文為原創(chuàng)文本，非生成式，轉(zhuǎn)載請(qǐng)注明出處！

商務(wù)咨詢/顧問(wèn)/請(qǐng)@yellowscholar?作者：黃先生斜杠青年