生命科學領域的人工智能應用相較于傳統實驗方法，有望更快速、高效地推動生物發現和設計取得進展。與此同時，為有益應用而開發的人工智能生物工具也有可能被濫用于有害目的。盡管制造生物武器并非新概念或新風險，但過去十年來，人工智能生物工具對此類風險的影響已引發人們的擔憂。

應美國國防部要求，美國國家學院（NASEM）于2025年3月31日發布報告《人工智能生物工具的賦能應用與風險規避》（The Age of AI in the Life Sciences: Benefits and Risks），評估了人工智能生物工具如何對生物安全風險產生獨特影響，以及如何緩解這些風險。報告回顧了人工智能生物工具的功能，提出了用于識別不同風險因素的框架。啟元洞見節選了該報告的部分關鍵點，以供參考。

一、人工智能賦能生物設計

合成生物學是指有針對性地設計、制造和部署生物系統，以實現有益目標，如生產抗旱或抗蟲害作物、可再生能源或先進藥物等。合成生物學過程通常采用“設計—構建—測試—學習”（DBTL）循環，這是一種設計、構建和評估生物系統的迭代方法，內置反饋回路可根據實驗數據改進設計。

人工智能生物工具可以為實驗驗證提供數據驅動的指導，不僅能夠助力科研人員產生具有前瞻性的新假設與創新想法，還能高效挖掘大型數據集中潛藏的模式與規律，進而加速并優化設計與發現流程。藥物研發應用就是一個例子，人工智能工具可在數天內生成數千個候選藥物分子，而如果沒有人工智能方法，這一過程可能需要數年時間。

人工智能模型還能促進數據分析，在學習階段提高對實驗數據的洞察力，從而在反饋回路中不斷完善DBTL循環和知識生成。

二、人工智能生物工具的潛在風險

迄今為止，專注于評估人工智能生物工具潛在安全風險的經驗數據和研究有限。該報告考慮了三種潛在風險，反映了人們對人工智能生物工具可能被濫用來設計具有引發流行病或大流行風險的可傳播生物制劑的擔憂。

（一）設計毒素等生物分子

當前，人工智能生物工具能夠設計毒素等有害分子，或者使用不同的氨基酸構建塊重新設計已知毒素，從而繞過簡單的基于同源性的DNA篩選。

目前的人工智能生物模型存在局限性，難以生成能夠滿足有效生物分子所有要求的輸出。這些局限性意味著潛在威脅的規模可能僅限于地方病層面，而非流行病或大流行層面。

（二）改造現有病原體以增強毒性

人工智能生物模型已展現出對特定特征進行建模的能力，這些特征可預測與毒力有關的特性。然而，該報告指出，當前模型的性能和能力存在數據集不足等局限性。

（三）從頭設計病毒

要設計新的病毒病原體，生成式人工智能模型需要準確預測病毒的結構、毒性和傳播性決定因素，這是一項重大的能力提升。目前還沒有任何人工智能生物工具具備從頭設計病毒的能力。此外，也不存在可用于訓練此類模型的生物數據集。不過，如果能開發出這種能力，那將是人工智能最顯著的能力提升。

重要的是，人工智能生物工具并不能減少跨越數字物理鴻溝、在實驗室構建生物分子的瓶頸和障礙。未來，自動化實驗室的改進或許能夠緩解DBTL循環中構建和測試階段的一些問題。

三、人工智能生物工具的安全應用

人工智能生物工具在多個方面都有助于生物安全，包括通過流行病學追蹤和預測來改進傳染病監測，以及加快應對措施的設計，如診斷檢測等。研究項目若能提供傳染源生物學知識并建立相關數據集，將有助于支持此類應對措施的開發。該報告建議繼續支持研究項目，以更好地了解傳染源的生物學特性，開展生物監測計劃，并探索使用人工智能工具開發醫療應對措施。

在其他領域，人工智能能夠直接生成用于造成危害（例如，用于制造虛假信息或深度偽造）的惡意產品，而與人工智能相關的生物威脅風險只有在生物制劑生產出來后才會在現實世界中顯現。人工智能工具有可能增強現有的核酸篩查方法，而要使這一機制成為有效的控制點并降低潛在生物安全風險，還需要更多的研究。

四、持續評估的指導原則

為了避免過度地限制或阻礙生物學研究，在考慮潛在的生物安全風險時，區分能力和意圖至關重要。目前，無論是用于有益還是有害的應用，人工智能生物工具都受到生物知識和數據集稀缺的限制。

該報告建議美國國防部和美國人工智能安全研究所制定“如果—那么”（If-Then）策略，持續評估數據的可用性和質量，以及隨之而來的人工智能支持能力，以預測風險格局的變化。“如果—那么”策略將使用現實世界的威脅模型，該模型將考慮多種因素，如技術的可用性、其作為武器的可用性以及風險緩解潛力等。如果超過特定閾值，則可以采用風險評估和緩解策略。

五、優化數據資源和基礎設施

生物數據可以成為生命科學領域人工智能能力崛起的領先指標。然而，除了核酸序列和結構數據之外，生命科學領域的數據較為零散，缺乏穩健、可靠且精心整理的可用于模型訓練的數據。為了最大限度地發揮人工智能在生物學領域的應用優勢，該報告建議資助相關工作和基礎設施，以便為生物學應用創建和管理與人工智能兼容的數據和訓練集。這包括自上而下生成高質量數據集和自下而上聚合多樣化的小型數據集，以及數據協調工具和解決生物數據稀缺問題的有效方法。

此外，標準化的上下文信息對于數據復用也至關重要。蛋白質數據庫（Protein Data Bank，PDB）就是一個例子，它是一個寶貴的資源，為Alpha Fold奠定了基礎，因為它標準化、經過精心整理并向公眾開放。該報告建議，擁有或資助生物數據庫的美國聯邦機構應將其視為戰略資產，并實施數據溯源機制，以保持最高水平的數據質量。

數據資源庫的生成、整理和保存需要對實驗室、計算基礎設施能力以及學科專業知識進行大量的長期投資。該報告認為，建立新的國家數據資源并戰略性地收集可用于人工智能的生物數據集，應成為美國保持科學競爭力和創新能力的研究重點。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

轉自丨啟元洞見

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er