醫(yī)療AI產(chǎn)品監(jiān)管的重中之重，是制定出一套科學(xué)、合理、明確的分類標(biāo)準(zhǔn)，明確各類產(chǎn)品的風(fēng)險(xiǎn)等級(jí)、入市的法律標(biāo)準(zhǔn)以及臨床應(yīng)用的技術(shù)要求。針對(duì)高風(fēng)險(xiǎn)的AI產(chǎn)品，應(yīng)采取更加嚴(yán)格謹(jǐn)慎的標(biāo)準(zhǔn)，從而最大程度上降低其出現(xiàn)醫(yī)療事故的風(fēng)險(xiǎn)；針對(duì)低風(fēng)險(xiǎn)的AI產(chǎn)品，則應(yīng)采取類似于上述預(yù)認(rèn)證的監(jiān)管模式，為相關(guān)產(chǎn)品和技術(shù)的快速發(fā)展和升級(jí)提供相對(duì)寬松的監(jiān)管環(huán)境。

電影《超能陸戰(zhàn)隊(duì)》里呆萌可愛的醫(yī)療智能機(jī)器人大白(Baymax)在吸粉無數(shù)的同時(shí)，也使人們對(duì)醫(yī)療人工智能的發(fā)展充滿了無限的期待和向往。

盡管目前的醫(yī)療AI產(chǎn)品尚不能同電影中的“大白”一樣，通過一次簡(jiǎn)單地掃描，就可以檢測(cè)出人體的健康指數(shù)，并且完全獨(dú)立地根據(jù)病人的情況治療幾乎所有的疾病，但近年來，醫(yī)療人工智能的飛速發(fā)展正在使這些幻想一步步地成為現(xiàn)實(shí)。目前，人工智能在醫(yī)療領(lǐng)域的應(yīng)用已經(jīng)十分廣泛，國內(nèi)外已經(jīng)或即將投入使用的醫(yī)療AI產(chǎn)品涵蓋了疾病風(fēng)險(xiǎn)預(yù)測(cè)、醫(yī)療影像輔助診斷、臨床輔助治療、智能健康管理和醫(yī)院智能管理等眾多領(lǐng)域。

互聯(lián)網(wǎng)醫(yī)療健康產(chǎn)業(yè)聯(lián)盟發(fā)布的《醫(yī)療人工智能技術(shù)與應(yīng)用白皮書(2018)》顯示，到2025年人工智能應(yīng)用市場(chǎng)總值將達(dá)到1270億美元，其中醫(yī)療行業(yè)將占市場(chǎng)規(guī)模的五分之一。我國醫(yī)療人工智能的市場(chǎng)規(guī)模更是發(fā)展迅速，2016年中國人工智能+醫(yī)療市場(chǎng)規(guī)模達(dá)到96.61億元，增長(zhǎng)37.9%；2018年有望達(dá)到200億元，增長(zhǎng)超過一倍。

此外，國務(wù)院辦公廳近期印發(fā)的《關(guān)于促進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見》中，亦進(jìn)一步明確了推進(jìn)“互聯(lián)網(wǎng)+”人工智能應(yīng)用服務(wù)的要求，鼓勵(lì)研發(fā)基于人工智能的臨床診療決策支持系統(tǒng)和其他醫(yī)療健康智能設(shè)備，為醫(yī)療人工智能的發(fā)展提供了更清晰的政策指導(dǎo)和支持。

不可否認(rèn)的是，醫(yī)療人工智能技術(shù)的快速發(fā)展對(duì)于提高診斷效率，彌補(bǔ)醫(yī)生資源缺口，提升醫(yī)療服務(wù)水平都將起到巨大的推動(dòng)作用。但相對(duì)于其他領(lǐng)域的AI產(chǎn)品，在醫(yī)療人工智能領(lǐng)域，尤其是在醫(yī)療輔助診斷和治療領(lǐng)域，AI產(chǎn)品將對(duì)醫(yī)生的診斷和決策產(chǎn)生一定的導(dǎo)向作用，一旦出現(xiàn)失誤則很有可能嚴(yán)重危及患者的生命健康。因此，必須完善對(duì)AI輔助診斷和治療產(chǎn)品的監(jiān)管機(jī)制，明確醫(yī)療AI產(chǎn)品進(jìn)入臨床應(yīng)用的法律標(biāo)準(zhǔn)和技術(shù)要求，同時(shí)明確AI診斷的醫(yī)療責(zé)任主體、劃清權(quán)責(zé)范圍。

完善AI輔助診斷、治療產(chǎn)品監(jiān)管機(jī)制，關(guān)鍵是分類標(biāo)準(zhǔn)制定。

目前，世界各主要國家?guī)缀醵紝I輔助診斷和治療產(chǎn)品作為醫(yī)療器械加以監(jiān)管，AI輔助診斷和治療產(chǎn)品如需上市，必須根據(jù)醫(yī)療器械的等級(jí)分類標(biāo)準(zhǔn)獲得監(jiān)管部門相應(yīng)的許可和認(rèn)證。在我國，監(jiān)管部門對(duì)于利用人工智能技術(shù)提供診斷功能的審核要求非常嚴(yán)格。根據(jù)2017年國家藥品監(jiān)督管理局(CFDA)發(fā)布的新版《醫(yī)療器械分類目錄》(該分類政策將于2018年8月1日起正式施行)，若診斷軟件通過其算法提供診斷建議，僅有輔助診斷功能不直接給出診斷結(jié)論，則按照二類醫(yī)療器械申報(bào)認(rèn)證；如果對(duì)病變部位進(jìn)行自動(dòng)識(shí)別并提供明確診斷提示，則必須按照第三類醫(yī)療器械進(jìn)行臨床試驗(yàn)認(rèn)證管理。此外，國家衛(wèi)生計(jì)生委于2017年2月發(fā)布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017年版)》和《人工智能輔助治療技術(shù)管理體系規(guī)范(2017年版)》還對(duì)醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員應(yīng)用AI輔助診斷和治療技術(shù)提出了極具操作性的要求，具體包括醫(yī)療機(jī)構(gòu)的硬件設(shè)施、醫(yī)務(wù)人員的資質(zhì)要求以及技術(shù)管理和培訓(xùn)管理制度等。

在美國，根據(jù)醫(yī)療器械存在的風(fēng)險(xiǎn)程度，醫(yī)療器械同樣被劃分為三類，其中ClassIII為具有高風(fēng)險(xiǎn)的醫(yī)療器械，具體指擬用于支持或維持人類生命或預(yù)防人類健康受損，或可能導(dǎo)致潛在的不合理的疾病或傷害風(fēng)險(xiǎn)的醫(yī)療器械。根據(jù)美國聯(lián)邦法律，III類設(shè)備除需進(jìn)行一般監(jiān)管外，還需進(jìn)行上市前審批(PMA)。近日，F(xiàn)DA即通過PMA程序首次批準(zhǔn)上市了一款醫(yī)療AI產(chǎn)品，根據(jù)FDA發(fā)布的公告，該設(shè)備是一種可用于篩查糖尿病性視網(wǎng)膜病變的軟件程序，無需臨床醫(yī)生分析就能給出診斷結(jié)果?？梢?，美國亦將此類能夠提供明確診斷結(jié)果的AI輔助診斷產(chǎn)品視為具有最高風(fēng)險(xiǎn)等級(jí)的醫(yī)療器械加以監(jiān)管。

除了采用上述傳統(tǒng)的監(jiān)管方式外，美國FDA還于去年8月開創(chuàng)了一種針對(duì)低風(fēng)險(xiǎn)醫(yī)療AI產(chǎn)品的全新監(jiān)管方式——“數(shù)字醫(yī)療軟件預(yù)認(rèn)證計(jì)劃”(SoftwarePrecertificationPilotProgram)。根據(jù)該計(jì)劃，F(xiàn)DA選擇了包括蘋果、三星電子、強(qiáng)生等9家數(shù)字醫(yī)療企業(yè)共同參與于去年9月1日開始實(shí)施的預(yù)認(rèn)證計(jì)劃試點(diǎn)項(xiàng)目。在該試點(diǎn)項(xiàng)目結(jié)束后，F(xiàn)DA旗下專門負(fù)責(zé)醫(yī)療設(shè)備及科技監(jiān)管的機(jī)構(gòu)CDRH將根據(jù)在上述試點(diǎn)項(xiàng)目中確定的客觀標(biāo)準(zhǔn)來“預(yù)先認(rèn)證”那些符合資格的數(shù)字醫(yī)療開發(fā)主體。經(jīng)過預(yù)認(rèn)證的開發(fā)主體即有資格直接銷售自己的低風(fēng)險(xiǎn)醫(yī)療AI產(chǎn)品，而無需經(jīng)過FDA的額外審查和一系列入市審查。

FDA的此種監(jiān)管方式打破了傳統(tǒng)的針對(duì)醫(yī)療產(chǎn)品的監(jiān)管模式，而是將監(jiān)管重點(diǎn)放在了開發(fā)和生產(chǎn)產(chǎn)品的企業(yè)身上，這無疑將大大提高醫(yī)療AI設(shè)備的審批速度，有利于醫(yī)療領(lǐng)域人工智能新設(shè)備和新技術(shù)的快速發(fā)展和迭代更替。但值得注意的是，此種預(yù)認(rèn)證計(jì)劃僅適用于風(fēng)險(xiǎn)較低的醫(yī)療AI產(chǎn)品，對(duì)于具有較高風(fēng)險(xiǎn)的AI輔助診斷和治療產(chǎn)品似乎并不適合。

綜上，醫(yī)療AI產(chǎn)品監(jiān)管的重中之重，是制定出一套科學(xué)、合理、明確的分類標(biāo)準(zhǔn)，明確各類產(chǎn)品的風(fēng)險(xiǎn)等級(jí)、入市的法律標(biāo)準(zhǔn)以及臨床應(yīng)用的技術(shù)要求。針對(duì)高風(fēng)險(xiǎn)的AI產(chǎn)品，應(yīng)采取更加嚴(yán)格謹(jǐn)慎的標(biāo)準(zhǔn)，從而最大程度上降低其出現(xiàn)醫(yī)療事故的風(fēng)險(xiǎn)；針對(duì)低風(fēng)險(xiǎn)的AI產(chǎn)品，則應(yīng)采取類似于上述預(yù)認(rèn)證的監(jiān)管模式，為相關(guān)產(chǎn)品和技術(shù)的快速發(fā)展和升級(jí)提供相對(duì)寬松的監(jiān)管環(huán)境。至于醫(yī)療AI產(chǎn)品風(fēng)險(xiǎn)等級(jí)的劃分依據(jù)，則應(yīng)當(dāng)綜合考慮其處理對(duì)象(如：癌癥、惡性腫瘤等疾病的影像)的嚴(yán)重程度、所需數(shù)據(jù)標(biāo)準(zhǔn)化程度以及所采用算法的成熟程度和公開程度。

明確AI輔助診斷及治療的醫(yī)療責(zé)任主體、劃清權(quán)責(zé)范圍

針對(duì)醫(yī)療人工智能的監(jiān)管，除了要在事前審批和日常監(jiān)管上下文章外，明確AI輔助診斷和治療的醫(yī)療責(zé)任主體、劃清各方的權(quán)責(zé)范圍同樣至關(guān)重要。目前，我國侵權(quán)責(zé)任法對(duì)傳統(tǒng)的醫(yī)療器械造成損害的責(zé)任承擔(dān)問題進(jìn)行了比較明確的規(guī)定，即由缺陷醫(yī)療器械的生產(chǎn)者和醫(yī)療機(jī)構(gòu)承擔(dān)不真正連帶責(zé)任，被侵權(quán)人既可以選擇向缺陷醫(yī)療器械的生產(chǎn)者，也可以選擇向醫(yī)療機(jī)構(gòu)請(qǐng)求損害賠償，如果醫(yī)療機(jī)構(gòu)先行承擔(dān)了賠付責(zé)任，則其有權(quán)向負(fù)有責(zé)任的生產(chǎn)者追償。然而，采取此種責(zé)任劃分方式的前提，是能夠比較明確地厘清造成醫(yī)療事故的主要原因是醫(yī)療器械的缺陷還是醫(yī)生的診斷失誤。

與傳統(tǒng)醫(yī)療器械不同，AI輔助診斷和治療產(chǎn)品往往會(huì)通過一定的算法抽取和分析海量的病歷與文獻(xiàn)數(shù)據(jù)，并在此基礎(chǔ)上形成病情評(píng)估、診療建議、藥物禁忌等結(jié)論，從而為醫(yī)生的臨床決策提供支持。但是由于“技術(shù)黑箱”的存在，包括使用AI輔助診斷產(chǎn)品的醫(yī)生在內(nèi)的所有人，都無從知曉算法究竟為何抓取這些文獻(xiàn)、如何提取不同的診療方案以及如何對(duì)不同的診療方案作出評(píng)價(jià)并選出最優(yōu)方案。因此，當(dāng)醫(yī)生因使用AI輔助診斷和治療產(chǎn)品而造成醫(yī)療事故時(shí)，外界將很難認(rèn)定和判斷其責(zé)任歸屬，而這就使得傳統(tǒng)醫(yī)療器械造成損害的歸責(zé)方式在醫(yī)療人工智能領(lǐng)域難以適用。

而要破解這一難題，一方面需要AI技術(shù)的不斷提升以進(jìn)一步增強(qiáng)算法的透明度或可解釋性，另一方面則需要在立法層面上構(gòu)建起合理的AI產(chǎn)品致人損害的責(zé)任分擔(dān)方式，從而在保障被侵權(quán)人的合法權(quán)益和鼓勵(lì)醫(yī)療AI產(chǎn)品的開發(fā)與應(yīng)用之間取得平衡。對(duì)此，可以考慮由醫(yī)生(醫(yī)療機(jī)構(gòu))對(duì)AI輔助診斷和治療產(chǎn)品引發(fā)的醫(yī)療事故承擔(dān)首要責(zé)任，這是因?yàn)楦鶕?jù)前述國家衛(wèi)生計(jì)生委員會(huì)發(fā)布的兩份關(guān)于醫(yī)療人工智能的技術(shù)規(guī)范，盡管AI輔助診斷和治療產(chǎn)品可以為醫(yī)生的決策提供建議，但其僅具有輔助性的地位，最終的決策必須由具有醫(yī)師資質(zhì)和一定經(jīng)驗(yàn)的醫(yī)生作出，因此由醫(yī)生(醫(yī)療機(jī)構(gòu))承擔(dān)醫(yī)療責(zé)任并無不公。

當(dāng)然，如果醫(yī)療機(jī)構(gòu)能夠證明AI輔助診斷和治療產(chǎn)品對(duì)醫(yī)生的決策失誤產(chǎn)生了關(guān)鍵作用(例如AI產(chǎn)品提供的醫(yī)學(xué)影像錯(cuò)誤等)，則可以要求AI產(chǎn)品的生產(chǎn)者承擔(dān)相應(yīng)的責(zé)任。此外，由于此種責(zé)任分擔(dān)方式為醫(yī)療機(jī)構(gòu)設(shè)置了較重的責(zé)任，很有可能會(huì)給AI輔助診斷和治療產(chǎn)品進(jìn)入臨床應(yīng)用帶來巨大的阻礙，因而可以考慮引入針對(duì)AI產(chǎn)品的強(qiáng)制責(zé)任保險(xiǎn)制度，強(qiáng)制要求AI產(chǎn)品的生產(chǎn)者為具有較高風(fēng)險(xiǎn)的AI輔助診斷和治療產(chǎn)品投保，從而分擔(dān)AI產(chǎn)品的風(fēng)險(xiǎn)，進(jìn)一步激發(fā)醫(yī)療機(jī)構(gòu)使用AI輔助診斷和治療產(chǎn)品的積極性。

人工智能的發(fā)展與創(chuàng)新，正在使人們的生產(chǎn)和生活方式發(fā)生劇變，而針對(duì)人工智能產(chǎn)品的監(jiān)管思路和方式也必須相應(yīng)地作出改變。針對(duì)醫(yī)療人工智能的監(jiān)管更要兼顧醫(yī)療行業(yè)和人工智能兩者的特殊性，創(chuàng)新監(jiān)管方式，進(jìn)一步促進(jìn)醫(yī)療行業(yè)的智能化和人工智能應(yīng)用的多元化。