1、數(shù)據(jù)泄露問題

　　醫(yī)療數(shù)據(jù)包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等，不僅涉及患者隱私，還具有特殊的敏感性和重要價值，一旦泄露，可能給患者帶來身心困擾和財產(chǎn)損失，甚至對社會穩(wěn)定和國家安全造成負面影響。然而，醫(yī)療 AI 的研發(fā)與應用，必須依賴大量的醫(yī)療數(shù)據(jù)用于算法訓練，數(shù)據(jù)量越大、越多樣，其分析和預測的結果將越精準。但數(shù)據(jù)收集、分析處理、云端存儲和信息共享等大數(shù)據(jù)技術的應用，加大了數(shù)據(jù)泄露的風險。事實上，近年來醫(yī)療行業(yè)已經(jīng)成為數(shù)據(jù)泄露的重災區(qū)。2017 年全球 15％的數(shù)據(jù)泄露事件來自醫(yī)療保健行業(yè)，僅次于金融業(yè)。我國醫(yī)療數(shù)據(jù)泄露事件也不鮮見。據(jù)《法制日報》2017 年 9 月報道，某部委醫(yī)療信息系統(tǒng)遭到黑客入侵，被泄露的公民信息多達 7 億多條，8000 多萬條公民信息被販賣。2018 年多家醫(yī)療機構計算機系統(tǒng)被勒索病毒攻擊。2020 年 4 月，某 AI 醫(yī)學影像公司遭黑客入侵，其 AI 輔助系統(tǒng)和訓練數(shù)據(jù)被竊取，并以 4 比特幣（約合 18 萬人民幣）的價格在暗網(wǎng)上公開出售。這也是國內(nèi)首家被曝數(shù)據(jù)泄露的醫(yī)療 AI 公司案例。

　　2、醫(yī)療安全問題

　　盡管醫(yī)療 AI 被賦予了準確、高效、安全等優(yōu)點，但醫(yī)療活動本身具有一定的風險性和不確定性，加上手術機器人等醫(yī)療 AI 在應用中需要密切接觸患者身體或直接作用于人體某些器官，不可避免地面臨潛在風險。主要包括技術和人為兩方面的因素。從技術來看，國內(nèi)醫(yī)療 AI 的發(fā)展在當前還處于起步階段，產(chǎn)品性能還不穩(wěn)定，也缺乏相應的標準和規(guī)范，安全性還有待考證，需要在實踐中不斷調試改進。即使是較為成熟的進口產(chǎn)品，也存在諸多問題。據(jù)美國媒體報道，使用沃森腫瘤解決方案的醫(yī)生發(fā)現(xiàn)，沃森經(jīng)常會推薦不準確甚至錯誤的治療建議。如果醫(yī)生據(jù)此決策，后果難以設想。人為因素主要是醫(yī)生操作不當。在現(xiàn)階段，醫(yī)療 AI 還只是機器或程序，它不能根據(jù)實際情況調整自己的行為，必須依賴醫(yī)生對機械進行操控或做最終決策。在應用之初，醫(yī)生可能因經(jīng)驗不足、操作不熟練而引發(fā)機器故障，有的甚至會造成嚴重后果。如 2015 年 2 月，英國首例機器人心臟手術過程中出現(xiàn)“機器失控”，主刀醫(yī)生在慌亂中應對失當，最終導致手術失敗，患者一周后死亡。這起事故的原因，除機器故障外，與主刀醫(yī)生操作經(jīng)驗不足、未充分估計手術風險有很大關系。