7 月 18 日，在云南昆明舉辦的中華醫學會醫學倫理分會 2025 年會現場，由上海交通大學、復旦大學、上海交通大學醫學院附屬瑞金醫院和螞蟻集團聯合編寫的《醫療健康大模型倫理與安全白皮書》正式發布，為醫療健康大模型的安全、有效、合規應用提供參考指導，推動醫療 AI 可信落地，助力醫療行業智能化的發展，讓算法更有“醫者仁心”。

《醫療健康大模型倫理與安全白皮書》正式發布

近年來，人工智能技術發展迅猛，在醫療領域，大模型的應用為提高醫療服務效率、優化醫療資源配置、方便用戶就醫問診帶來了巨大機遇。然而當 AI 走進診室、藥房和家庭健康管理時，其安全性、嚴謹性和倫理合規性面臨遠超其他行業的挑戰：AI 給我的就診建議是否正確專業？我的個人隱私能得到充分保護嗎？醫療決策過程是否透明可溯？診療過程中的責任歸屬如何界定？這些都是用戶擔憂、醫生關切、行業亟需解決的“痛點”。

該白皮書針對上述大模型應用中可能出現的知情同意、用戶隱私、數據歧視、不透明性、幻覺與錯誤信息以及違反倫理法律規定等風險，圍繞科學性、安全性、合規性、倫理性等關鍵維度，構建了“應用場景 × 倫理規范 × 法規數據集 × 考點 × 主觀題”五位一體的醫療健康大模型評估體系，并提出“大模型自評+專家復核”的多層評估機制，提升模型倫理違規的識別率，讓醫療大模型在應用前通過“質檢關”，變得更準確、安全、公平、透明。

在醫療健康大模型評測指引的基礎上，白皮書也提供了系統性的風險防控路徑，包括數據安全防控、倫理合規建設、技術可靠性與風險監控、監管與評估體系建設等環節。白皮書特別強調了“人機對齊”理念，只有讓對齊原則融入技術開發、行業應用、監管等各個環節，AI 才能從“高效工具”轉變為“可靠伙伴”，并提出包括倫理準則微調、價值觀對齊訓練、敏感內容干預機制、RAG 模塊引用質量控制、醫學共情識別等醫療大模型倫理對齊的技術路徑，確保大模型首先遵循“以人為本，生命至上”的原則。

該白皮書還介紹了在目前在醫療產業已落地應用的產品案例，包括“小瑞健康”、“夸克健康助手”和“AI 健康應用 AQ”。據了解，今年 6 月，螞蟻集團正式發布 AQ，為用戶提供健康科普、就診咨詢、報告解讀、健康檔案等上百項 AI 功能，還能高效連接全國超 5000 家醫院、近百萬醫生、近 200 個名醫 AI 分身等專業醫療服務，讓遠在山區的老鄉也能便捷享受專業的醫療服務。

“螞蟻將平等、尊重、可信、負責的科技倫理原則融入技術研發的全鏈路，倡導‘AI 向善’的理念，希望為用戶打造的產品，”螞蟻集團全面風險管理部 AI 風險治理總監楊舟在現場表示，“同時我們也將繼續堅持開放合作，和國內外多學科、跨行業的專家、學者及機構共同推動 AI 治理體系的完善。”

北京大學醫學人文學院醫學倫理與法律系教授、博士生導師叢亞麗表示，“醫療健康大模型的研發與應用不是一個單純的技術命題，而是涉及生命尊嚴與安全的社會責任課題。這次發布的白皮書在醫療大模型倫理與法律風險等方面的歸納和測評提出了獨創的嘗試，為行業各方提供了一個非常有價值的參考框架和指引。”

據了解，該白皮書還集結了來自北京協和醫學院、北京大學醫學部、復旦大學附屬腫瘤醫院、復旦大學附屬婦產科醫院、西安交通大學、廈門大學醫學院、天津醫科大學、天津中醫藥大學等十余所國內高校與醫院的專家組成專家委員會，參與內容的框架制定，確保白皮書內容的權威性和科學性。