人工智能發展速度超越監管范圍，對數據、身份和聲譽驗證構成風險。如果不加以控制，可能會加劇虛假信息的泛濫，并減緩科學創新的進程。邁向超級人工智能的步伐，被其最狂熱的領導者們描繪成邁向科學黃金時代的動力。然而，這種動力也增加了我們社會陷入技術退化平臺期的生存風險，即不成熟的人工智能技術的大規模應用會限制甚至逐漸削弱人類的創造力和創新能力。

這與大多數加速論者的觀點相矛盾。人工智能本應提高我們更快地完成工作和綜合更多信息的能力。然而，人工智能無法取代歸納推理或實驗過程。如今，任何人都可以使用人工智能提出科學假設，并將其作為輸入生成科學論文。像Aithor這樣的產品的結果通常表面上看起來很權威，甚至可以通過同行評審。這是一個大問題，因為人工智能生成的文本已經被整理成合法的科學發現，并且通常包含虛假的偽造數據來支持其主張。年輕研究人員有很大的動機去利用他們可以利用的一切手段來競爭有限的學術工作和資金機會。學術界目前的激勵制度獎勵那些能夠發表最多論文的人，無論這些論文是否描述了合理的發現——他們只需要通過同行評審并獲得足夠的引用。

未經核實作者身份的學術內容也將對依賴基礎科學驅動研發的行業構成重大問題，而基礎科學的研發正是維持社會運轉、保障全球不斷增長人口生活質量的關鍵。因此，資金充足的研發機構只能信任其自身能夠進行和復制的研究，這不僅增加了商業機密的價值，也對開放科學和獲取有意義信息的渠道造成了毀滅性的打擊。

昂貴的復制工作本身可以解決虛假信息問題，然而，問題遠不止于此。如今，我們正面臨著對知識基礎信任的侵蝕，無法證實的主張和模棱兩可的歸因正在破壞科學進步，對科學界構成威脅。我們迫切需要建立一個基于事實的經濟體系，以可靠地驗證內容和數據的真實性。

AI系統的強大程度取決于其訓練數據

大型語言模型是生成令人信服內容的絕佳工具；然而，它們的信息量取決于訓練它們的數據。它們在訓練集之外進行推斷的能力仍然有限。科學的作用不僅在于綜合現有知識，更在于創造新的信息成果，從而增加人類積累的知識集體語料庫的熵。隨著時間的推移，越來越多的人使用人工智能生成內容，而越來越少的人生成原創內容，我們將面臨一種“低熵膨脹”，它不會向世界引入新信息，而只是重新組合過去的知識。除非我們在用于嚴肅研究的人工智能工具中構建一個有彈性的出處和經過驗證的歸因層，否則主要來源將會丟失，因為新的“知識”基于自指的人工智能生成的內容。

這種對人類集體智力深度的“腦葉切除”將對醫學、經濟和學術研究以及藝術和創意追求產生持久影響。未經驗證的數據可能會影響研究，扭曲結果，并導致重大政策或技術失誤，從而削弱科學研究的權威性。人工智能生成的“科學”風險重重。常規科學的日常運作將因作者身份爭議、抄襲指控和同行評審受損而停滯不前。我們需要投入更多時間和精力來應對科研質量和準確性 下降帶來的諸多后果。

人工智能是激發創意、構建思維和自動化重復性任務的有力工具；它必須始終是對人類創作內容的補充，而非替代。它不應被用來撰寫那些無需實際操作就能提出原創性發現的科學論文，而應作為輔助手段，提升人類主導工作的效率和準確性。例如，人工智能可以幫助我們利用已知方法對現有數據進行模擬，并自動化這項工作，從而發現新的研究方向。然而，科學探究所需的實驗方案和人類的創造力是無法輕易取代的。

建立基于事實的經濟

基于事實的經濟建立了一個包含系統和標準的框架，以確保信息和數據的真實性、完整性、透明度和可追溯性。它滿足了在技術社會中建立信任和可驗證性的需求，使個人和組織能夠信賴共享知識的準確性。價值根植于主張的真實性、觀察結果和主要來源的真實性。基于事實的經濟將使數字知識變得“硬”，就像比特幣使法定貨幣變得“硬”。這正是去中心化科學運動的承諾。

我們如何實現這一目標？我們需要從科學界最重要的元素——個體研究人員及其工作入手。目前，科學身份的網絡標準不足以驗證身份聲明和工作證明。現行做法使得偽造一份聲譽尚可的個人資料變得非常容易；由于偏見和串通，同行評審也面臨風險。如果不驗證科學聲明所附帶的元數據，就無法建立基于真相的科學經濟。

學術身份標準的改進可以從一個簡單的跨平臺登錄開始，該登錄由保護隱私的身份驗證技術提供支持。用戶應該能夠使用其憑證登錄任何網站，證明其真實性，并選擇性地披露有關其聲譽、數據或其他代理或用戶的信息。

植根于可驗證研究人員聲譽的身份層是 DeSci 的基礎。完整的鏈上科學經濟將允許公眾匿名參與大規模在線科研活動協調。研究實驗室和去中心化自治組織可以創建無需許可的系統和賞金計劃，從而防止虛假聲譽或身份聲明的利用。基于身份聲明的區塊鏈通用科學注冊表將為旨在積累可驗證科學知識和檢驗可證偽假設的自治組織提供參考框架。

守護人類進步的未來

我們需要通過信息透明和嚴格驗證來奠定真理的基礎，以避免專家研究領域內部信任的崩塌。我們共同的進步能否持續數百年，能否在材料科學、生物技術、神經科學和復雜性科學領域開啟一場又一場的科學革命，將取決于高質量研究和可靠數據的管理。這將是未來社會與我們如今一樣先進的區別，與啟蒙運動之前的社會截然不同。否則，我們只能預料，這已經是我們作為一個物種所能達到的極限，而我們只會變得越來越笨。DeSci 能否拯救我們尚不清楚，但讓我們把事情做好的時間已經有限。

免責聲明：

本文所發布的內容和圖片旨在傳播行業信息，版權歸原作者所有，非商業用途。 如有侵權，請與我們聯系。 所有信息僅供參考和分享，不構成任何投資建議。投資者應基于自身判斷和謹慎評估做出決策。 投資有風險，入市需謹慎。

關注我們，一起探索AWM！

2025-05-28

2025-05-26

2025-05-24