本文作者:孫濤 王菲
目錄
前言
一、智慧醫療涉及的主體及可能承擔責任的情形
(一)醫療機構及醫務人員的責任
(二)人工智能開發者與提供者的責任
(三)醫療器械供應商的責任
(四)患者自身的責任
二、智慧醫療事故責任劃分需遵循的原則
(一)過錯責任原則
(二)過錯推定責任原則
(三)因果關系原則
(四)公平責任原則
(五)無過錯責任原則
三、智慧醫療下各方特有的勤勉專業審慎義務
(一)醫療機構未盡勤勉專業審慎義務的情形
(二)醫療工作者未盡勤勉專業審慎義務的情形
(三)監管機構未盡勤勉專業審慎義務的情形
四、智慧醫療與訓練數據
(一)訓練數據提供者的法定義務
(二)訓練數據的標準
五、智慧醫療下醫療事故責任劃分的現狀
六、智慧醫療下醫療事故責任劃分的改進思路
(一)完善立法頂層設計,明確責任主體
(二)優化舉證責任規則,平衡醫患權益
(三)建立分級分類責任標準,適應區域差異
(四)強化數據安全與隱私保護
七.結束語
前言
隨著科技的進步,人工智能正穩步滲透至醫療領域,引領一場醫療領域的深刻變革。在醫療實踐的前沿,人工智能的多元化應用——包括智能問診平臺、輔助診斷系統以及定制化治療方案的生成,正合力構筑一個智慧醫療的全新生態。隨著技術的不斷迭代升級,人工智能與醫療的深度融合,不僅加速了醫療行業的數字化進程,更為智慧醫療生態的完善奠定了堅實基礎。
隨著智慧醫療技術的不斷發展以及政策層面的支持和推動,中國智慧醫療市場規模正在不斷擴大,并呈現出高速增長的態勢。中商產業研究院發布的《2022-2027年中國智慧醫療產業發展趨勢及投資風險研究報告》顯示,2023年中國智慧醫療行業市場規模達到62.85億元,2019-2023年的年均復合增長率達53.37%。根據2024年初的分析預測,2024年中國智慧醫療市場規模有可能增長至111.37億元。截止2024年3月,我國存續在業的智慧醫療領域相關企業已達1.44萬余家,2023年智慧醫療企業注冊量達到2286家。[1]
如同任何新技術的應用一樣,智慧醫療在帶來機遇的同時,也引發了一系列新的法律問題,其中醫療事故的責任劃分尤為關鍵。在智慧醫療已經深入應用的情形下,考慮到智慧醫療與傳統醫療相比,涉及的責任主體更為多元,除了醫療機構和醫務人員,還涉及人工智能開發者、醫療器械供應商、網絡服務提供商等,一旦發生醫療事故,會面臨比傳統醫療情形下更復雜的責任劃分及認定問題。
一、智慧醫療涉及的主體及可能承擔責任的情形
在對醫療事故責任人進行準確判定過程中,須緊密結合各種復雜因素進行全面衡量。其中,首先要確定的是醫療事件是否具備成為醫療事故的實質性特征,為此需要借助專業的醫療事故鑒定機構予以權威確認。一旦被確認為醫療事故,責任人的職責歸屬便主要取決于其在醫療活動中所犯錯誤的嚴重程度。這種錯誤不僅涵蓋了是否觸犯醫療衛生管理法律、行政規則以及各部門的規章制度,還包括是否違背了診療護理的規范和常規要求。此外,責任人的過失與患者所遭受的損害后果之間的關聯性也是判定其責任程度的重要依據。在責任程度的劃分上,根據《醫療事故技術鑒定暫行辦法》,通常可以分為全責、主責、次責及輕微責任四個層次。[2]
對于智慧醫療,在判斷責任時,要依據法律法規以及行業標準進行綜合判斷。例如,對于智能診斷系統的準確性應有相應的行業規范和標準,若系統達不到該標準,開發者可能需承擔責任。
智慧醫療情形下醫療事故的責任劃分,按照不同的責任主體,不同的事故原因,通常可以分為以下幾種情形:
(一)醫療機構及醫務人員的責任
醫療機構及醫務人員會全程參與患者的醫療過程,因此,在醫療的各個環節都存在醫療機構及醫務人員需承擔相應責任的情形。醫療機構及醫務人員需承擔責任的情形主要包括以下幾個方面:
1.在診斷環節,醫務人員未正確解讀智能系統結果或未結合臨床實際判斷。智慧醫療的診療環節需要醫務人員運用所學知識結合臨床實際經驗,將患者的臨床實際情況、病史與智能診斷系統的建議綜合起來給出具體的診斷結果。若醫務人員沒有正確理解和判斷智能診斷系統給出的結果,比如人工智能提示了某種疾病的可能性,但醫生未重視或誤判,導致誤診,醫療機構和相關醫務人員需承擔相應責任。相反,如果醫務人員僅依賴智能系統診斷,沒有結合患者的實際臨床癥狀、病史等進行綜合判斷,造成漏診或誤診,醫療機構及醫務人員也需承擔相應責任。
2.在治療環節,如果醫療機構及醫務人員在執行智能系統給出的治療方案時出現操作失誤,像手術操作不當、用藥劑量錯誤等,并因此對患者造成了不必要的傷害。對于所造成的傷害,醫療機構及相關醫務人員應負主要責任。
此外,不同于傳統醫療,對于治療環節,人工智能系統會給出相應的多種治療建議,醫療人員需要根據自身臨床經驗和患者實際情況盡量篩選出合適的醫療方案進行治療。如果人工智能系統給出了多種治療建議,醫務人員沒有根據患者的具體情況進行合理篩選和評估,選擇了不適合的方案導致醫療事故,醫療機構及相關醫務人員應承擔相應責任。
3.在日常的監督管理環節,醫療機構對智慧醫療設備和系統有維護和管理的責任。如果因醫療機構未及時妥善維護相應設備導致設備老化、軟件故障等未及時處理,影響診療的安全性,引發醫療事故,醫療機構需承擔相應擔責任。
醫療機構還有確保參與智慧醫療的相關醫務人員接受了足夠的智慧醫療相關培訓的義務。智慧醫療作為不同于傳統醫療的全新概念,需要相關醫務人員掌握相關技能,以便熟練、正確地使用人工智能系統進行診療。如果醫療機構沒有參與或組織對智慧醫療的相關醫務人員進行智慧醫療相關培訓并確認其已培訓合格,或明知某醫務人員沒有參與智慧醫療的相關技術水平但仍讓其執行相關崗位職責,使其不能熟練、正確地使用智能系統,導致操作失誤或不能有效應對系統異常等情況,醫療機構要為培訓不到位及因此造成的相關損害承擔相應責任。
(二)人工智能開發者與提供者的責任
對于實際使用的與人工智能智慧醫療相關的軟硬件系統,人工智能開發者與提供者負有重要責任。對于人工智能系統,系統本身的構建與大數據對人工智能的訓練處于同樣重要的地位。如果系統存在設計缺陷、算法錯誤,或者數據偏差,進而引發醫療事故,開發者須承擔相應法律后果。如某智能診斷系統因訓練數據偏差,對某種疾病的診斷準確率極低,導致患者延誤治療,開發者需承擔責任。人工智能系統可能存在的問題一般分為系統本身的問題與訓練數據存在問題這兩種情形。
1.人工智能存在系統缺陷。若人工智能系統在系統設計上存在相關問題,如系統設計上存在漏洞,系統所使用的算法存在錯誤等,或者系統本身在沒有經過充分的臨床測試和驗證的情況下就投入使用,這些問題導致提供的診斷或治療建議本身存在問題,從而引發醫療事故,開發者和提供者需為此承擔相應法律責任。
2.人工智能系統用于訓練的數據存在問題。若用于訓練人工智能的數據存在偏差、不完整或不準確,使得系統學習到錯誤的模式,給出錯誤的結果,由此造成醫療事故,數據的收集者、整理者以及系統開發者可能都需要承擔責任。
(三)醫療器械供應商的責任
與傳統醫療相同,如果醫療事故是由于診療過程中所用醫療器械產品質量問題引起的,如設計缺陷、制造缺陷或原材料質量問題,供應商應承擔主要責任。
(四)患者自身的責任
若患者自身隱瞞病情、不配合治療等,對醫療事故的發生也起到了一定作用,那么在責任劃分時也會考慮患者自身的因素。
二、智慧醫療事故責任劃分需遵循的原則
(一)過錯責任原則
過錯責任原則是智慧醫療事故責任劃分的核心原則。醫療機構及其醫務人員在診療過程中因過錯導致患者損害的,需承擔相應責任。過錯包括違反診療規范、誤診、誤治等行為。在智慧醫療場景下,如果醫務人員未正確使用醫療人工智能設備或未盡到合理注意義務,也可能被認定為存在過錯。例如,在使用醫療人工智能系統時,若醫生沒有正確解讀系統給出的診斷建議,或未對系統進行必要的常規檢查和維護,導致錯誤治療,醫生和醫療機構就存在過錯,需承擔責任。
(二)過錯推定責任原則
在某些情況下,除非醫療機構或設備制造商能證明自身無過錯,法律推定醫療機構或設備制造商存在過錯。例如,如果醫療人工智能設備因設計缺陷或程序漏洞導致患者受到損害,制造商需承擔無過錯責任。若醫療機構在智慧醫療中,未能妥善保存電子病歷,導致關鍵診療數據缺失,無法說明診療過程的合理性,就會被推定存在過錯。此外,如果醫療機構未履行告知義務(如未告知患者使用人工智能設備的風險),也可能適用過錯推定責任原則。
(三)因果關系原則
確定醫療行為與患者損害之間的因果關系是責任劃分的重要環節。只有當智慧醫療中的診療行為(包括醫療技術、設備、人員操作等)與患者的損害結果存在直接因果關系時,醫療機構或設備制造商等才需承擔責任。如果損害結果是由多種因素共同作用導致的,需根據各因素的影響程度劃分責任。例如,患者因醫療物聯網設備傳輸數據錯誤,導致醫生做出錯誤診斷并進行了不適當的治療,最終使患者病情加重,那么設備傳輸數據錯誤與患者病情加重之間就存在因果關系。
(四)公平責任原則
當智慧醫療事故中,當事人雙方對損害的發生均無過錯,法律又無特別規定適用無過錯責任原則時,可能適用公平責任原則,由人民法院根據公平的觀念,在考慮當事人雙方的財產情況及其他情況的基礎上,責令相關方對受害人的財產損害給予適當補償,由當事人公平合理地分擔損失。例如,在一些罕見病的智能診斷中,因現有醫學知識和技術的局限性,出現誤診但各方均無過錯,法院可能會根據公平責任原則,要求相關方適當分擔患者的損失。
(五)無過錯責任原則
醫療損害發生后,無過錯責任原則不以行為人的主觀過錯為責任要件的歸責標準,即不因行為人主觀上有無過錯,只要行為人的行為和所管理的人或物與造成的損害后果之間有因果關系,就應承擔民事責任。該原則在醫療事故民事責任中適用范圍較窄,僅適用于如醫療產品責任等。
三、智慧醫療下各方特有的勤勉專業審慎義務
(一)醫療機構未盡勤勉專業審慎義務的情形
醫療機構作為采購方,負有選擇安全、有效的設備和系統的責任。對于智慧醫療設備需求評估,醫療機構應結合自身診療流程、患者群體特征及技術能力進行可行性分析,盲目采購高端設備,造成如引入人工智能診斷系統但缺乏配套數據支持,或者忽視設備與現有系統的兼容性等情形的出現,影響在實際醫療中的有效使用。
醫療機構還應嚴格審核供應商資質,避免相關流程流于形式。醫療機構應嚴格審查供應商的醫療器械注冊證、技術專利、售后服務能力等關鍵資質,充分考察供應商的行業口碑或歷史案例,否則有可能出現選擇缺乏臨床驗證或有相關醫療風險的設備,存在數據泄露或設備故障記錄的企業被引入自身智慧醫療服務等情形。
醫療機構還需對相關醫療設備進行合規性審查。如果合規性審查出現疏失,可能會引入不符合醫療行業標準的設備,對患者安全造成嚴重威脅,給醫療機構、醫護人員帶來多方面的風險;或是采購的系統沒有防止未經患者同意的調閱的相應機制,導致患者信息存在泄露風險。
(二)醫療工作者未盡勤勉專業審慎義務的情形
醫療工作者作為設備的直接使用者,需要積極參與需求評估,采購符合實際操作需要的設備;還應及時反饋在使用過程中發現的問題,保障設備問題有機會及時得到修正和解決。醫療工作者未主動參與設備選型過程并提出臨床實際需求,有可能導致采購的醫療設備不適合實際的醫療場景,如發現某系統操作界面復雜影響診療效率但并未提出意見,導致含有該操作系統的醫療設備被采購并大規模應用。如果醫療工作者在設備使用中發現問題后未及時向醫療機構相關部門報告,導致風險持續存在,影響設備效果。例如,人工智能診斷出現誤判但未被發現此情況的醫療工作人員上報修正,導致人工智能誤診的隱患持續存在。
醫療工作者為具有對智慧醫療設備足夠的操作能力,還需積極參加并完成智慧醫療設備的使用培訓。如果醫療工作者未接受系統操作培訓或培訓流于形式,有可能導致設備使用不當,如某醫院引入遠程手術系統,醫生因未接受跨國協作流程培訓,在手術中誤判設備延遲導致操作失誤。或者導致醫療工作者不適應新技術的應用,出現諸如將人工智能診斷結果未進行人工復核直接寫入病歷,導致漏診罕見病例;未能意識到設備局限性,在超出適用范圍的場景中使用等情形。
(三)監管機構未盡勤勉專業審慎義務的情形
監管機構的審慎義務是智慧診療行業健康發展的核心保障,其有責任制定標準和監督執行。如果監管機構未能及時制定相關技術標準,如對設備的診斷準確率、響應速度等性能指標的未能及時制定等級標準及評估規范,可能導致如實際誤差率超出臨床可接受范圍但仍宣稱自家設備具有高精度的情況發生。
如果監管機構對于市場準入的監管不嚴,有可能導致產品具有設計缺陷。例如未強制要求覆蓋不同人群,導致某皮膚病診斷系統對深色皮膚人群準確率顯著低于淺色皮膚人群而在審批流程未被發現,未能及時消除訓練數據或算法的不足造成的模型偏差。
產品上市后,監管機構仍需對產品進行持續監測。如果未建立設備不良事件主動上報機制,僅依賴醫療機構被動報告,有可能導致產品出現問題后無法第一時間做出反應,擴大不良產品危害的人群規模。例如,某輸液泵不良事件,如果能事先建立醫療器械不良事件監測機制并積極上報,就能有效減少受該事件影響的人群的規模。[3]
監管機構還應注意對數字安全方面的監管。如果不強制要求設備供應商采用數據加密、訪問控制等安全措施,則容易導致患者信息因數據接口遭黑客攻擊而泄露;如果對醫療機構與供應商的數據共享協議相應監管機構缺乏審查,有可能導致默認應用不合理的數據所有權轉移條款,造成如患者影像數據被供應商用于商業開發等侵權行為出現。
四、智慧醫療與訓練數據
(一)訓練數據提供者的法定義務
在智慧醫療程序中,智慧診療相關的訓練數據提供者需嚴格遵循《個人信息保護法》、《數據安全法》、《生成式人工智能服務管理暫行辦法》及《民法典》等法律法規要求。具體表現為:
1. 在數據采集階段,依照《民法典》第1038條規定,獲取訓練數據必須通過明示方式獲得數據主體同意,禁止欺詐、誘騙或誤導性收集。而且根據《個人信息安全規范》,訓練數據提供者僅收集與診療服務直接相關的必要數據,不得超范圍采集。
2. 對于收集來用于訓練智慧醫療模型的數據,訓練數據提供者需建立分類分級保護制度,針對不同級別的數據,采用相應的安全措施,例如數據加密,數據匿名化和脫敏等。
(二)訓練數據的標準
智慧醫療所采用的訓練數據應確保自身的可靠性、合規性及可用性。一般需考慮以下幾個方面:
1. 對于訓練數據的質量,應確保數據真實、完整、準確,符合臨床診療規范,多模態數據(如病歷、影像、基因)需融合關聯,支持深度分析。
2. 對于訓練數據的使用,按照《個人信息安全規范》,訓練數據共享前需進行匿名化或去標識化,避免個人隱私的泄露。例如通過K-匿名性、差分隱私等數據隱私保護技術的使用,實現隱私保護。
五、智慧醫療下醫療事故責任劃分的現狀
目前,我國關于智慧醫療事故責任劃分的法律法規尚不完善。現有的醫療事故處理法規主要針對傳統醫療模式,難以完全適用于智慧醫療的復雜情況。這導致在實際案例中,責任劃分存在爭議和不確定性,如存在人工智能系統設計缺陷的責任歸屬模糊、舉證規則不適應技術特性、區域差異標準缺失等問題。
目前,若智慧醫療人工智能系統因算法缺陷或訓練數據偏差導致誤診,現行法律未明確界定開發者、醫療機構、數據提供方的責任比例。目前主要依據《民法典》第1223條(醫療產品責任)追究設備生產者責任,但人工智能系統的“技術黑箱”特性導致因果關系舉證困難,患者維權成本高。
在智能醫療侵權案件中,患者往往因技術壁壘難以證明醫療機構或人工智能開發者的過錯。《最高人民法院關于審理醫療損害責任糾紛案件適用法律若干問題的解釋》雖規定部分舉證責任倒置,但對人工智能相關技術細節的舉證標準未作特殊規定,導致維權過程中患者處于弱勢地位。例如,某患者因手術機器人操作失誤致殘,但機器人運行數據由醫療機構掌控,患者無法獲取關鍵證據,這使得患者很難在實際行動中通過法律手段維護自身的合法權益。
智慧醫療技術應用存在顯著地域差異,經濟發達地區與基層醫療機構的設備和人員水平差距大。例如,某基層醫院可能會因使用過時的人工智能系統導致診斷延誤,但法律未明確現行可用的人工智能系統的具體衡量標準。現行法律法規未針對智能醫療技術制定分級標準,導致司法裁判在判斷醫療機構對智慧醫療設備的運用是否存在不當之處缺乏統一依據。
六、智慧醫療下醫療事故責任劃分的改進思路
(一)完善立法頂層設計,明確責任主體
修訂現有法律法規,增設智慧醫療相關內容,明確智慧醫療人工智能系統開發者、醫療機構、訓練數據提供方的責任邊界。例如,規定人工智能系統設計缺陷導致損害時,開發者應承擔主要責任;醫療機構未履行審核義務或操作過失時,承擔補充責任。此外,還可以建立智慧醫療產品準入標準、風險分級制度及全生命周期監管體系,要求開發者公開算法透明度報告,并強制其對投智慧醫療產品保產品責任險。
(二)優化舉證責任規則,平衡醫患權益
將智慧醫療致害案件歸為適用舉證責任倒置的侵權類型,由醫療機構或開發者證明其無過錯(如算法無缺陷、數據無偏差)。患者僅需證明損害結果與人工智能使用存在初步關聯。
(三)建立分級分類責任標準,適應區域差異
根據醫療機構等級(如醫院為三甲醫院還是基層醫院)、人工智能系統風險等級(如所采用智慧醫療系統僅支持輔助診斷還是可進行自主手術),差異化界定當時當地醫療水平,針對不同醫療水平,適用不同風險等級的智慧醫療系統。例如,強制三級醫院使用通過國家認證的高風險人工智能系統,對于社區醫院使用的智慧醫療系統則只可在較低風險診療階段輔助醫務人員進行診療。
(四)強化數據安全與隱私保護
在《個人信息保護法》框架下,完善數據責任鏈條,明確醫療數據收集、存儲、使用各環節主體的安全義務。建立數據泄露責任追償機制,對因數據泄露導致的患者損害,允許患者同時主張醫療損害賠償與數據侵權責任,明確醫療機構與技術服務商的連帶責任。例如,要求人工智能開發者與醫療機構簽訂數據保密協議,禁止未經授權的算法訓練數據流轉。
七、結束語
智慧醫療作為醫療與科技深度融合的產物,既是推動醫療效率提升的創新引擎,也是對傳統醫療責任體系的嚴峻挑戰。其責任劃分既要鼓勵技術創新,又需保障患者權益,不僅涉及技術風險的可歸責性,更關乎法律價值的平衡。當前,技術的快速發展造成現有法律無法完善回應智慧醫療情境下面臨的新的問題,責任主體模糊、因果關系舉證困難、區域差異標準缺失等問題凸顯,亟待系統性回應。
智慧醫療的法治化進程,本質上是對技術權力的馴服與規范。唯有堅持“以人為本”的價值導向,構建技術可控、責任可溯、權益可保的制度框架,才能讓智慧醫療真正成為增進人類健康福祉的利器,而非風險的發源地。
注釋:
[1]中商產業研究院.2024年中國智慧醫療行業市場前景預測研究報告[EB/OL].(2024-03-20).https://www.infoobs.com/article/20240320/64048.html
[2]律圖.醫療責任事故賠償標準是多少[EB/OL].(2024-03-20).https://www.64365.com/zs/1247918.aspx
[3]劉欣欣,李永輝,王芳,馮亞楠.674例輸液泵不良事件回顧性分析[EB/OL].(2019-04-09).https://wenku.baidu.com/view/6a9f04a3b3717fd5360cba1aa8114431b90d8e32.html?_wkts_=1741761422817
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.