醫(yī)院上線AI系統(tǒng)輔助問診陪診 線上平臺(tái)“AI開處方”或越界

早上8點(diǎn)，四川省綿陽市游仙區(qū)忠興鎮(zhèn)興合村村醫(yī)宋文卓來到衛(wèi)生室，第一件事就是打開電腦登錄AI（人工智能）輔助診療系統(tǒng)，這是他近段時(shí)間養(yǎng)成的一個(gè)新習(xí)慣。

“宋醫(yī)生，我心跳有點(diǎn)快，感覺上不來氣，偶爾還會(huì)咳嗽幾聲?！毙l(wèi)生室剛開門，年近九旬的村民涂婆婆便在老伴的陪同下前來看診。宋文卓一邊詢問癥狀，一邊將病情輸入系統(tǒng)，然后點(diǎn)擊AI輔診按鈕，系統(tǒng)迅速與擁有海量多發(fā)病、常見病等病例的國(guó)家核心知識(shí)庫(kù)對(duì)接，通過提取和分析患者的歷史病歷信息，給出“急性上呼吸道感染”等診斷建議。宋文卓結(jié)合自己的臨床經(jīng)驗(yàn)進(jìn)行綜合評(píng)估，最終確定涂婆婆是急性上呼吸道感染。

隨后，系統(tǒng)根據(jù)醫(yī)生的選擇，給出了推薦用藥，列出推薦依據(jù)、檢查建議等。宋文卓參考選定治療藥物，讓老人先吃藥觀察。

在宋文卓看來，AI輔診系統(tǒng)的應(yīng)用，不僅提高了診斷的準(zhǔn)確性和效率，還能幫助醫(yī)生更好地應(yīng)對(duì)復(fù)雜病例，降低誤診漏診風(fēng)險(xiǎn)，看病用藥也更加安全放心。

AI輔助診療系統(tǒng)在綿陽市游仙區(qū)基層醫(yī)療機(jī)構(gòu)的應(yīng)用，是我國(guó)推進(jìn)“AI+醫(yī)療”的一個(gè)生動(dòng)縮影。《“十四五”醫(yī)療裝備產(chǎn)業(yè)發(fā)展規(guī)劃》明確提出加快智能醫(yī)療裝備發(fā)展；《關(guān)于進(jìn)一步完善醫(yī)療衛(wèi)生服務(wù)體系的意見》提出發(fā)展“互聯(lián)網(wǎng)+醫(yī)療健康”，加快推進(jìn)互聯(lián)網(wǎng)、人工智能等在醫(yī)療衛(wèi)生領(lǐng)域中的應(yīng)用……近年來，我國(guó)不斷加強(qiáng)頂層設(shè)計(jì)，推進(jìn)“AI+醫(yī)療”的發(fā)展。

多名業(yè)內(nèi)人士和專家在接受《法治日?qǐng)?bào)》記者采訪時(shí)指出，醫(yī)療領(lǐng)域已經(jīng)成為探索AI應(yīng)用的重要場(chǎng)所，目前在一些醫(yī)院主要應(yīng)用于分導(dǎo)診、預(yù)問診、病歷生成等場(chǎng)景，助力患者就醫(yī)更加便捷，提升了醫(yī)療服務(wù)質(zhì)量，未來AI輔助診療將會(huì)成為一種趨勢(shì)，但也需要警惕背后隱藏的法律風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)不僅涉及患者個(gè)人隱私保護(hù)，還關(guān)系到算法透明度和公平性等問題。

多地上線AI輔診

提升患者就診體驗(yàn)

近日，記者來到北京大學(xué)人民醫(yī)院進(jìn)行甲狀腺和瘢痕檢查，檢查項(xiàng)目包括B超、血液檢查等。繳費(fèi)完成后，醫(yī)生提醒可在系統(tǒng)預(yù)約檢查時(shí)間。記者打開手機(jī)，像“自助值機(jī)”一樣，在可選時(shí)間段，把檢查項(xiàng)目約在相對(duì)集中的時(shí)間，這樣就可以“一次跑完”，在最短的時(shí)間內(nèi)完成所有檢查，避免了因現(xiàn)場(chǎng)排隊(duì)改約和檢查時(shí)間不同而帶來的反復(fù)奔波。

這只是AI輔助醫(yī)療的一個(gè)縮影。記者梳理公開資料發(fā)現(xiàn)，“AI+醫(yī)療”目前已在多個(gè)醫(yī)院落地。

在華中科技大學(xué)同濟(jì)醫(yī)學(xué)院附屬協(xié)和醫(yī)院，如果患者不知道掛哪個(gè)科室，AI可以來幫忙。

該院今年5月推出了“AI智慧門診”，涵蓋智能分導(dǎo)診、智能加號(hào)等功能。以彼時(shí)的“智能加號(hào)”功能為例：患者可點(diǎn)擊“掛號(hào)服務(wù)”“在線掛號(hào)”，進(jìn)入需要預(yù)約的科室，如果選擇的專家號(hào)“滿診”，則可點(diǎn)擊下方的“申請(qǐng)加號(hào)”，在跳轉(zhuǎn)頁面選擇該專家的加號(hào)日期。確定免費(fèi)預(yù)約后，AI會(huì)自動(dòng)發(fā)起對(duì)話，詢問病情等相關(guān)情況，然后生成“病情卡片”，再綜合評(píng)估病情嚴(yán)重程度，判斷加號(hào)資格，最后發(fā)送給專家確定是否通過。

此外，該院還推出“智能候診室”功能?；颊邟焯?hào)后，由“醫(yī)生數(shù)字人”與患者先進(jìn)行溝通，提前了解患者癥狀、病程等，為醫(yī)生面診做準(zhǔn)備。

在浙江省人民醫(yī)院，數(shù)字健康人“安診兒”可以陪伴患者就診。

據(jù)了解，“安診兒”可以為患者提供覆蓋就醫(yī)前、中、后的AI陪診服務(wù)。診前，患者可以向其描述自己的癥狀，“安診兒”根據(jù)癥狀為患者匹配科室和醫(yī)生，幫助患者預(yù)約掛號(hào)；診中，“安診兒”可合理安排就診流程，全程提供AR智能導(dǎo)航，還可以讓患者在線上直接取號(hào)，并提供叫號(hào)提醒，甚至能在支付寶上完成醫(yī)保繳費(fèi)，節(jié)約患者的就醫(yī)時(shí)間；診后，患者離開醫(yī)院，其還會(huì)繼續(xù)提供電子病歷、處方和報(bào)告查詢等服務(wù)。

在北京友誼醫(yī)院，AI能幫醫(yī)生寫病歷。

今年5月，云知聲門診病歷生成系統(tǒng)在北京友誼醫(yī)院應(yīng)用。該系統(tǒng)能在復(fù)雜的醫(yī)院環(huán)境中識(shí)別醫(yī)患對(duì)話，精準(zhǔn)捕捉關(guān)鍵信息，分離醫(yī)患角色，并從中剔除與病情無關(guān)的內(nèi)容，生成專業(yè)術(shù)語表達(dá)的信息摘要，以及符合病歷書寫規(guī)范要求的門診電子病歷。數(shù)據(jù)顯示，在門診病歷生成系統(tǒng)的幫助下，北京友誼醫(yī)院相關(guān)科室門診病例錄入效率大幅提升，醫(yī)生問診時(shí)間大幅縮短。

法律風(fēng)險(xiǎn)不容忽視

警惕算法歧視問題

多名受訪的業(yè)內(nèi)人士指出，人工智能在醫(yī)療領(lǐng)域的廣泛應(yīng)用，能為患者提供更便捷的服務(wù)，提高了醫(yī)療服務(wù)的效率和精準(zhǔn)度，讓優(yōu)質(zhì)醫(yī)療資源更普惠，但其背后的法律風(fēng)險(xiǎn)也不容忽視。

在山西大學(xué)法學(xué)院講師陳川看來，傳統(tǒng)醫(yī)療診斷過程強(qiáng)調(diào)醫(yī)生對(duì)患者人格尊嚴(yán)和自主權(quán)的尊重與保護(hù)，醫(yī)生在作出醫(yī)療決策時(shí)，需綜合考慮患者的既往病史和當(dāng)前癥狀，并依照相關(guān)法律法規(guī)與倫理規(guī)范，制定適宜的治療方案。然而，醫(yī)療人工智能存在“自動(dòng)化偏見”風(fēng)險(xiǎn)，即醫(yī)生在診斷過程中可能會(huì)過度依賴人工智能技術(shù)，從而忽略自身專業(yè)判斷和對(duì)患者個(gè)體需求的考慮。這種過度依賴可能導(dǎo)致醫(yī)生將困難的醫(yī)療決策不恰當(dāng)?shù)亟唤o人工智能處理。當(dāng)醫(yī)生過度依賴人工智能時(shí)，患者的治療決策可能被剝奪，轉(zhuǎn)而交由機(jī)器進(jìn)行處理，導(dǎo)致患者失去對(duì)自身健康管理的自主權(quán)。

此外，算法透明度不足和算法歧視問題也不容忽視。“雖然2023年7月國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委等部門公布的《生成式人工智能服務(wù)管理暫行辦法》提出了算法透明性要求，但在具體實(shí)施過程中，算法的實(shí)際工作原理和決策過程往往難以被外界理解和監(jiān)督。由于算法透明度不足，患者無法了解醫(yī)療人工智能是如何得出診斷結(jié)論的，導(dǎo)致其知情權(quán)和選擇權(quán)無法得到充分保障，可能會(huì)侵犯患者的知情同意權(quán)和自主決定權(quán)。”陳川說。

她提出，算法歧視問題還會(huì)導(dǎo)致不同地區(qū)在醫(yī)療資源上的不平等現(xiàn)象。不同開發(fā)者在訓(xùn)練算法時(shí)可能無意間引入偏見，導(dǎo)致生成式人工智能在面對(duì)不同群體患者時(shí)作出歧視性決策。例如，某些醫(yī)療人工智能系統(tǒng)在篩查病人時(shí)，診斷結(jié)果不準(zhǔn)確或存在系統(tǒng)性低估。再比如，算法模型的訓(xùn)練數(shù)據(jù)如果主要來自某些特定群體，可能會(huì)導(dǎo)致其面對(duì)特殊群體時(shí)產(chǎn)生偏見。

陳川認(rèn)為，目前，人工智能在醫(yī)療領(lǐng)域的應(yīng)用仍處于探索階段，易因誤診、數(shù)據(jù)泄露等行為引發(fā)問責(zé)和歸責(zé)問題。我國(guó)民法典規(guī)定醫(yī)療損害責(zé)任適用過錯(cuò)責(zé)任原則，也考慮到醫(yī)療器械所致?lián)p害的責(zé)任承擔(dān)問題。但人工智能能夠獨(dú)立生成醫(yī)療診斷結(jié)果或建議，因此在現(xiàn)行法律框架下，對(duì)醫(yī)療人工智能應(yīng)用的追責(zé)十分復(fù)雜，傳統(tǒng)的責(zé)任形式難以簡(jiǎn)單套用到醫(yī)療人工智能上。

線上購(gòu)藥本末倒置

審核環(huán)節(jié)形同虛設(shè)

除了“AI+醫(yī)療”作為一種新興模式在實(shí)際應(yīng)用過程中可能存在一定法律風(fēng)險(xiǎn)外，一些線上醫(yī)療問診、線上購(gòu)藥平臺(tái)在引入AI輔助后，雖然給患者帶來便捷，但也暴露出不少問題。

記者在調(diào)查中發(fā)現(xiàn)，一些互聯(lián)網(wǎng)醫(yī)療平臺(tái)采用“先選購(gòu)藥品，再因藥配方，甚至由人工智能軟件自動(dòng)生成處方”這樣本末倒置的操作方式。

記者前不久在某購(gòu)藥平臺(tái)下單處方藥骨化三醇軟膠囊后，平臺(tái)提示“請(qǐng)選擇線下已確診疾病”。記者在“疾病欄”隨機(jī)勾選了幾項(xiàng)，“處方/病歷/檢查報(bào)告欄”空著，并確認(rèn)“已確診此疾病并使用過該藥，且無過敏史、無相關(guān)禁忌證和不良反應(yīng)”，很快便通過了驗(yàn)證，提交清單后，系統(tǒng)跳至問診版塊。

緊接著，有“醫(yī)師”接診，連續(xù)發(fā)來數(shù)條信息，其中第一條強(qiáng)調(diào)“互聯(lián)網(wǎng)醫(yī)院只對(duì)復(fù)診用戶提供醫(yī)療服務(wù)”，后續(xù)幾條信息均為確認(rèn)有無過敏史或處于特殊時(shí)期。在記者沒有回復(fù)的情況下，對(duì)方就發(fā)來一張?zhí)幏絾魏唾?gòu)買鏈接。

北京市民楊木（化名）也有過類似經(jīng)歷，他懷疑屏幕背后接診的不是真的執(zhí)業(yè)醫(yī)師：“在××平臺(tái)購(gòu)買處方藥時(shí)，感覺對(duì)方跟機(jī)器人沒有差別，只要打字過去，對(duì)方就會(huì)在幾秒鐘內(nèi)迅速同意，根本沒有給出任何專業(yè)意見?！庇幸淮危室饷枋鲆恍┎皇怯?gòu)藥品適應(yīng)病癥的情況，結(jié)果對(duì)方仍然很快開了處方。

多名業(yè)內(nèi)人士認(rèn)為，“隔空”診療并不適合所有患者，常見病、慢性病的復(fù)診，是較長(zhǎng)時(shí)間以來互聯(lián)網(wǎng)診療的定位。不過，對(duì)于何為復(fù)診，業(yè)內(nèi)一直缺少具體標(biāo)準(zhǔn)，導(dǎo)致出現(xiàn)一些監(jiān)管真空。

“假如是正規(guī)互聯(lián)網(wǎng)醫(yī)院，有執(zhí)業(yè)資格的醫(yī)生開具的電子處方，應(yīng)該有醫(yī)生的簽名、互聯(lián)網(wǎng)醫(yī)院電子章。不排除有些小型互聯(lián)網(wǎng)醫(yī)療平臺(tái)存在用人工智能、機(jī)器人等工具自動(dòng)生成處方，一些大平臺(tái)會(huì)用AI等來輔助醫(yī)生問診，比如問病人幾歲、哪里不舒服等，但是處方必須要求醫(yī)生來開?！北本┠橙揍t(yī)院一劉姓醫(yī)生說。

他還注意到，不少平臺(tái)為謀取利益，采用“AI開處方，客戶直接取藥”的模式，處方開具、審核環(huán)節(jié)形同虛設(shè)，要么直接跳過開具處方這一流程，要么對(duì)用戶上傳的處方并不實(shí)際審核，這類行為嚴(yán)重違反了我國(guó)藥品管理制度，也給患者用藥安全埋下風(fēng)險(xiǎn)隱患。

在線上健康平臺(tái)咨詢問診會(huì)不會(huì)泄露個(gè)人信息，也是多名受訪患者提出的疑問。

有一次，楊木的后背上起了不少紅疹子，便在某健康平臺(tái)進(jìn)行問診，結(jié)果沒過幾天，他就陸續(xù)接到多個(gè)廣告電話和短信，有詢問是否需要植發(fā)的、有推銷護(hù)膚產(chǎn)品的，甚至還有借貸公司打來的推銷電話。

“問診時(shí)，平臺(tái)采集的個(gè)人信息和健康情況能不能保存好，這些信息會(huì)不會(huì)流向第三方？”楊木很是擔(dān)心。

此前，工信部曾通報(bào)過多個(gè)互聯(lián)網(wǎng)醫(yī)療App在個(gè)人信息收集及使用方面存在嚴(yán)重問題，包括超范圍采集個(gè)人隱私信息、未經(jīng)本人同意向他人提供個(gè)人信息、收集與醫(yī)療服務(wù)無關(guān)的個(gè)人信息等。

“與其他類型App相比，醫(yī)療類App泄露個(gè)人信息可能會(huì)導(dǎo)致更嚴(yán)重的法律問題。如果個(gè)人健康信息被泄露，不法分子可能利用這些信息實(shí)施精準(zhǔn)詐騙，比如利用‘病急亂投醫(yī)’的心理向患者非法售賣或推廣藥品?！鼻笆鰟⑨t(yī)生說。

完善相關(guān)法律框架

切實(shí)保障患者權(quán)益

受訪專家指出，為了有效應(yīng)對(duì)“AI+醫(yī)療”在實(shí)際應(yīng)用中潛在的法律風(fēng)險(xiǎn)，需要從法律和政策兩個(gè)層面進(jìn)行系統(tǒng)化完善。只有建立健全法律框架和監(jiān)管機(jī)制，明確醫(yī)療大模型的責(zé)任歸屬和數(shù)據(jù)使用規(guī)范，才能在推動(dòng)醫(yī)療人工智能發(fā)展的同時(shí)，切實(shí)保障患者的合法權(quán)益。

“首先要建立完善醫(yī)療人工智能法律框架。目前，《生成式人工智能服務(wù)管理暫行辦法》未涉及醫(yī)療領(lǐng)域人工智能規(guī)定，需要在其基礎(chǔ)上結(jié)合醫(yī)療領(lǐng)域的特點(diǎn)制定相關(guān)法律法規(guī)，突出強(qiáng)調(diào)醫(yī)療人工智能的輔助作用?！标惔ㄕf，為了幫助醫(yī)療工作人員、患者更好地使用人工智能系統(tǒng)、了解人工智能得出診斷結(jié)果的運(yùn)行機(jī)制，我國(guó)可以配套制定醫(yī)療人工智能使用指南，以增強(qiáng)醫(yī)療人工智能系統(tǒng)及其結(jié)果的可解釋性；還需完善其他法律規(guī)定，數(shù)據(jù)安全法、《涉及人的生命科學(xué)和醫(yī)學(xué)研究倫理審查辦法》等為制定醫(yī)療人工智能管理辦法提供了基礎(chǔ)，應(yīng)依據(jù)人工智能發(fā)展現(xiàn)狀出臺(tái)適用醫(yī)療人工智能的管理辦法。

陳川還提到，強(qiáng)化醫(yī)療人工智能算法監(jiān)管刻不容緩。一方面，為確保醫(yī)療人工智能的安全性和可靠性，應(yīng)成立算法審查專門機(jī)構(gòu)，對(duì)醫(yī)療人工智能進(jìn)行嚴(yán)格的安全性、透明性、倫理性審查；另一方面，基于數(shù)據(jù)的動(dòng)態(tài)性和人工智能技術(shù)的不斷迭代升級(jí)，應(yīng)要求研發(fā)者提前研判算法應(yīng)用過程中產(chǎn)生的安全風(fēng)險(xiǎn)并提出針對(duì)性應(yīng)對(duì)措施，在算法生命周期內(nèi)定期開展算法風(fēng)險(xiǎn)監(jiān)測(cè)工作，針對(duì)算法的數(shù)據(jù)使用、應(yīng)用場(chǎng)景、影響效果等進(jìn)行自我安全評(píng)估。此外，可開啟公眾監(jiān)督舉報(bào)、監(jiān)管部門巡查等多種措施。

北京中醫(yī)藥大學(xué)法律系教授鄧勇也認(rèn)為，隨著醫(yī)療大模型的發(fā)展，這一產(chǎn)業(yè)合規(guī)運(yùn)營(yíng)與監(jiān)管顯得越發(fā)重要，需要確定自身的產(chǎn)品定位并獲取對(duì)應(yīng)的資質(zhì)，避免無資質(zhì)開展相應(yīng)活動(dòng)?！昂弦?guī)方面，首要應(yīng)當(dāng)確定自身的產(chǎn)品定位，如屬于互聯(lián)網(wǎng)診療產(chǎn)品的，需要聯(lián)系或建立對(duì)應(yīng)的實(shí)體醫(yī)療機(jī)構(gòu)并申請(qǐng)?jiān)O(shè)置相應(yīng)的互聯(lián)網(wǎng)醫(yī)院，并在醫(yī)師資源、病歷管理、藥品配送、處方開具上滿足相應(yīng)要求，如僅作健康管理，不涉及診療活動(dòng)的，必須明確自身產(chǎn)品不具有‘醫(yī)療目的’，僅‘預(yù)期用于健康管理、目標(biāo)人群為健康人群、記錄統(tǒng)計(jì)健康信息’用。”

他提出，還應(yīng)當(dāng)采取數(shù)據(jù)清洗等方式確保去除公開數(shù)據(jù)中的違法和不良信息及個(gè)人信息，保證訓(xùn)練數(shù)據(jù)合法合規(guī)。醫(yī)療大模型收集用戶數(shù)據(jù)的要求，需要遵循合法、正當(dāng)、必要的原則，不收集與所提供服務(wù)無關(guān)的個(gè)人信息。

“醫(yī)療大模型收集用戶數(shù)據(jù)的紅線行為包括：未公開收集使用規(guī)則；未明示收集使用個(gè)人信息的目的、方式和范圍；未經(jīng)用戶同意收集使用個(gè)人信息；違反必要原則，收集與其提供的服務(wù)無關(guān)的個(gè)人信息；未經(jīng)同意向他人提供個(gè)人信息；未按法律規(guī)定提供刪除或更正個(gè)人信息功能或未公布投訴、舉報(bào)方式等信息?！编囉抡f，收集互聯(lián)網(wǎng)公開數(shù)據(jù)時(shí)，為確保其合法合規(guī)，還需要履行告知同意程序、匿名化程序、提供拒絕渠道等操作。此外，應(yīng)當(dāng)注重?cái)?shù)據(jù)標(biāo)注機(jī)制，通過標(biāo)注防止生成色情暴力、歧視性信息等違法和不良內(nèi)容，實(shí)現(xiàn)內(nèi)容安全。

針對(duì)線上醫(yī)療問診暴露出的問題，陳川認(rèn)為，亟須明確人工智能的法律責(zé)任，建立科學(xué)合理的責(zé)任分配機(jī)制，強(qiáng)化醫(yī)務(wù)人員的主體責(zé)任，明確AI處于輔助性地位，細(xì)化各領(lǐng)域參與者的責(zé)任，不能將醫(yī)療診斷徹底交給AI，應(yīng)遵循“事前預(yù)防—事中監(jiān)控—事后問責(zé)”的原則?！搬t(yī)務(wù)人員在行醫(yī)過程中須履行注意義務(wù)，即醫(yī)務(wù)人員須注意識(shí)別和鑒定AI診斷結(jié)果，否則應(yīng)當(dāng)承擔(dān)責(zé)任。”（文麗娟 實(shí)習(xí)生 張廣龍）