湖南省醫(yī)療保障局醫(yī)藥服務(wù)管理處發(fā)布了一則通知,通知標(biāo)題為《關(guān)于進(jìn)一步加強(qiáng)基本醫(yī)療保障定點(diǎn)零售藥店管理的通知》,其中在通知的第二項(xiàng)第五條中,關(guān)于規(guī)范互聯(lián)網(wǎng)醫(yī)保定點(diǎn)醫(yī)院處方行為中規(guī)定了這么一條:嚴(yán)禁使用人工智能等自動(dòng)生成處方,誰知在互聯(lián)網(wǎng)上掀起了巨大的波瀾!
其中,有一種觀點(diǎn)認(rèn)為,AI經(jīng)過了深度學(xué)習(xí)和大數(shù)據(jù)的支持,比很多經(jīng)驗(yàn)豐富的醫(yī)生還要靠譜,一刀切的禁止,太過于簡單粗暴,而且,AI不會(huì)因?yàn)橐獎(jiǎng)?chuàng)收而故意多開或者故意開貴的藥,即使要限制,也應(yīng)該先探索先由AI開具處方,再由醫(yī)生審核,探索一條“人機(jī)雙審”的模式。
另外一種觀點(diǎn)認(rèn)為,現(xiàn)在的AI的智能程度還沒有發(fā)展到讓人可以完全放心的程度,因?yàn)獒t(yī)學(xué)是一門科學(xué),AI有時(shí)候連最簡單的數(shù)學(xué)題都解不了,把這種跟人命相關(guān)的東西交給AI屬實(shí)不妥!畢竟,“是藥三分毒”這個(gè)道理,大家都是知道了,哪怕是開錯(cuò)了一味藥,用錯(cuò)了一點(diǎn)劑量,可能都會(huì)對患者造成無法彌補(bǔ)的傷害,因此,在AI發(fā)展還不太成熟的今天,把處方藥的開設(shè)交給AI,那是肯定不行的!
我作為一名程序員,我是支持后者的,因?yàn)橹挥懈慵夹g(shù)的,才知道AI它到底是什么東西,人們一想到“深度學(xué)習(xí)”、“神經(jīng)網(wǎng)絡(luò)”這樣的詞匯,往往會(huì)和人的大腦關(guān)聯(lián)在一起,覺得AI是有學(xué)習(xí)能力的,甚至懂得變通和思考,但是,這其實(shí)是不對的!
所謂的“深度學(xué)習(xí)”、“神經(jīng)網(wǎng)絡(luò)”,只不過是AI行業(yè)用來擬人化表達(dá)的一種詞匯而已,實(shí)際上,AI根本不會(huì)像人那樣學(xué)習(xí)和思考,甚至說它根本不知道什么叫學(xué)習(xí),什么叫思考,只會(huì)在一堆既定答案中通過一系列算法,選擇出一種它認(rèn)為的最佳答案而已,至于對不對,還是得靠屏幕前使用AI的你,自己來判斷,如果你不喂給它答案,它是不知道如何選擇的!
即使是現(xiàn)在最先進(jìn)的AI大模型,比如說OpenAI和DeepSeek都會(huì)標(biāo)注類似這么一行字:內(nèi)容由AI生成,無法確保真實(shí)準(zhǔn)確,僅供參考。
意思很簡單,就是告訴你,AI生成的內(nèi)容不一定對,需要你自己去甄別!
說明白這個(gè)問題以后,可能會(huì)有人像上述第一種觀點(diǎn)里面認(rèn)為的那樣,AI不會(huì)因?yàn)橐獎(jiǎng)?chuàng)收而故意多開或者開貴的藥,即使要限制,應(yīng)該也要尋求“人機(jī)雙審”的模式。這種理由看似很有道理,這里面卻有一個(gè)很嚴(yán)重的BUG,那就是AI如何根據(jù)病人的情況開具處方的這個(gè)問題。
從技術(shù)角度講,現(xiàn)在的AI對于自然語言的理解還是非常有局限性的,AI“理解”一個(gè)問題是否正確,取決于提問者提問關(guān)鍵詞的準(zhǔn)確度,這就是為什么互聯(lián)網(wǎng)上各種AI把自己吹得天花亂墜,但是實(shí)際用戶體驗(yàn)起來感覺特別差的原因,就是因?yàn)樘釂栒邲]有把問題說清楚。
從正常用戶角度,假設(shè)現(xiàn)在我感冒了,我需要醫(yī)生給我開一個(gè)藥,醫(yī)生可能會(huì)先看看喉嚨,然后再聽聽胸腔的聲音,最后結(jié)合患者自我描述,根據(jù)自己的經(jīng)驗(yàn)給患者開藥,這就是中醫(yī)中的“望聞問切”,當(dāng)然,我不是醫(yī)生,我可能描述不準(zhǔn),只是舉個(gè)例子。
但是,如果是AI開具處方,如果由患者那一頭自主描述,就會(huì)缺失“望聞問切”那一環(huán),根據(jù)患者自己的描述,AI雖然能夠“對癥下藥”,但是患者描述會(huì)有極大可能性失真,誤導(dǎo)AI開錯(cuò)藥的可能!
那如果是醫(yī)生“望聞問切”以后,輸入病況后再由AI開具處方,行不行呢?我覺得不行,這里面存在多種隱患!
第一種就是前面說的,如果要AI回答問題準(zhǔn)確,那么提問關(guān)鍵詞就需要足夠多,那有沒有一種可能,醫(yī)生為了讓AI的回復(fù)準(zhǔn)確率更高,會(huì)不會(huì)讓患者做更多的檢查以讓AI能夠更清楚得判斷患者病情呢?
這就會(huì)導(dǎo)致第一種觀點(diǎn)里面的一種說法,就是AI不會(huì)因?yàn)橐獎(jiǎng)?chuàng)收而多開藥或者故意開貴的藥變成了醫(yī)生為了準(zhǔn)確率讓患者做更多的檢查!
第二種隱患我覺得更加值得重視,要知道,此次湖南省醫(yī)療保障局服務(wù)管理處的這則通知中的此項(xiàng)規(guī)定,針對的是互聯(lián)網(wǎng)渠道買藥,限制的是藥店,本來藥店開具處方藥是需要有醫(yī)療資質(zhì)的醫(yī)生來開具的,如果單純使用AI開藥,那么就會(huì)滋生一種行為,那就是藥店會(huì)跳過醫(yī)資這一條限制,直接使用AI給病人開藥,結(jié)合前面所說的,AI可能會(huì)出現(xiàn)結(jié)果失準(zhǔn)的問題,勢必會(huì)增加用藥風(fēng)險(xiǎn)。
結(jié)語
現(xiàn)在科技是在不斷進(jìn)步不假,但是工欲善其事必先利其器,AI現(xiàn)在雖然火,甚至于說它正處于百家爭鳴的狀態(tài)也不錯(cuò),但是,它畢竟還是處于發(fā)展階段,給出的結(jié)果尚不是可以完全信任的時(shí)候。而看病買藥這種和生命息息相關(guān)的事情,我覺得在如今這個(gè)態(tài)勢下,還是由人來辦好!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.