湖南省醫療保障局醫藥服務管理處發布了一則通知,通知標題為《關于進一步加強基本醫療保障定點零售藥店管理的通知》,其中在通知的第二項第五條中,關于規范互聯網醫保定點醫院處方行為中規定了這么一條:嚴禁使用人工智能等自動生成處方,誰知在互聯網上掀起了巨大的波瀾!
其中,有一種觀點認為,AI經過了深度學習和大數據的支持,比很多經驗豐富的醫生還要靠譜,一刀切的禁止,太過于簡單粗暴,而且,AI不會因為要創收而故意多開或者故意開貴的藥,即使要限制,也應該先探索先由AI開具處方,再由醫生審核,探索一條“人機雙審”的模式。
另外一種觀點認為,現在的AI的智能程度還沒有發展到讓人可以完全放心的程度,因為醫學是一門科學,AI有時候連最簡單的數學題都解不了,把這種跟人命相關的東西交給AI屬實不妥!畢竟,“是藥三分毒”這個道理,大家都是知道了,哪怕是開錯了一味藥,用錯了一點劑量,可能都會對患者造成無法彌補的傷害,因此,在AI發展還不太成熟的今天,把處方藥的開設交給AI,那是肯定不行的!
我作為一名程序員,我是支持后者的,因為只有搞技術的,才知道AI它到底是什么東西,人們一想到“深度學習”、“神經網絡”這樣的詞匯,往往會和人的大腦關聯在一起,覺得AI是有學習能力的,甚至懂得變通和思考,但是,這其實是不對的!
所謂的“深度學習”、“神經網絡”,只不過是AI行業用來擬人化表達的一種詞匯而已,實際上,AI根本不會像人那樣學習和思考,甚至說它根本不知道什么叫學習,什么叫思考,只會在一堆既定答案中通過一系列算法,選擇出一種它認為的最佳答案而已,至于對不對,還是得靠屏幕前使用AI的你,自己來判斷,如果你不喂給它答案,它是不知道如何選擇的!
即使是現在最先進的AI大模型,比如說OpenAI和DeepSeek都會標注類似這么一行字:內容由AI生成,無法確保真實準確,僅供參考。
意思很簡單,就是告訴你,AI生成的內容不一定對,需要你自己去甄別!
說明白這個問題以后,可能會有人像上述第一種觀點里面認為的那樣,AI不會因為要創收而故意多開或者開貴的藥,即使要限制,應該也要尋求“人機雙審”的模式。這種理由看似很有道理,這里面卻有一個很嚴重的BUG,那就是AI如何根據病人的情況開具處方的這個問題。
從技術角度講,現在的AI對于自然語言的理解還是非常有局限性的,AI“理解”一個問題是否正確,取決于提問者提問關鍵詞的準確度,這就是為什么互聯網上各種AI把自己吹得天花亂墜,但是實際用戶體驗起來感覺特別差的原因,就是因為提問者沒有把問題說清楚。
從正常用戶角度,假設現在我感冒了,我需要醫生給我開一個藥,醫生可能會先看看喉嚨,然后再聽聽胸腔的聲音,最后結合患者自我描述,根據自己的經驗給患者開藥,這就是中醫中的“望聞問切”,當然,我不是醫生,我可能描述不準,只是舉個例子。
但是,如果是AI開具處方,如果由患者那一頭自主描述,就會缺失“望聞問切”那一環,根據患者自己的描述,AI雖然能夠“對癥下藥”,但是患者描述會有極大可能性失真,誤導AI開錯藥的可能!
那如果是醫生“望聞問切”以后,輸入病況后再由AI開具處方,行不行呢?我覺得不行,這里面存在多種隱患!
第一種就是前面說的,如果要AI回答問題準確,那么提問關鍵詞就需要足夠多,那有沒有一種可能,醫生為了讓AI的回復準確率更高,會不會讓患者做更多的檢查以讓AI能夠更清楚得判斷患者病情呢?
這就會導致第一種觀點里面的一種說法,就是AI不會因為要創收而多開藥或者故意開貴的藥變成了醫生為了準確率讓患者做更多的檢查!
第二種隱患我覺得更加值得重視,要知道,此次湖南省醫療保障局服務管理處的這則通知中的此項規定,針對的是互聯網渠道買藥,限制的是藥店,本來藥店開具處方藥是需要有醫療資質的醫生來開具的,如果單純使用AI開藥,那么就會滋生一種行為,那就是藥店會跳過醫資這一條限制,直接使用AI給病人開藥,結合前面所說的,AI可能會出現結果失準的問題,勢必會增加用藥風險。
結語
現在科技是在不斷進步不假,但是工欲善其事必先利其器,AI現在雖然火,甚至于說它正處于百家爭鳴的狀態也不錯,但是,它畢竟還是處于發展階段,給出的結果尚不是可以完全信任的時候。而看病買藥這種和生命息息相關的事情,我覺得在如今這個態勢下,還是由人來辦好!
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.