器審專家：AI醫(yī)療器械“學然后知不足”

zhg

機器學習（ML）是人工智能的核心領域，專門研究計算機模擬人類學習行為的方法。深度學習（DL）于2006年正式提出，作為新一代人工智能技術的代表引領了本次人工智能熱潮，幾乎成為人工智能的代稱。深度學習實為人工神經網絡算法，特征提取無須人為干預自動完成，是基于海量數(shù)據(jù)和高算力的黑盒算法。

人工智能醫(yī)療器械是指使用人工智能技術的醫(yī)療器械，包括人工智能獨立軟件和人工智能軟件組件。人工智能技術在醫(yī)療器械的應用主要包括前處理（如成像速度提升）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割）、輔助決策（如輔助篩查、輔助識別、輔助診斷、輔助治療）等方面，能夠提高診治的準確性和效率，降低醫(yī)生誤診漏診率和工作強度，具有良好的臨床價值和應用前景。

在我國，使用傳統(tǒng)人工智能技術的醫(yī)療器械已有多款產品注冊上市，如乳腺癌、肺結節(jié)、結腸息肉等輔助識別軟件和心電分析軟件。而使用深度學習等新一代人工智能技術的醫(yī)療器械典型產品有眼底照片糖網輔助篩查軟件、CT圖像肺結節(jié)輔助識別軟件、病理圖像輔助識別軟件，目前仍主要處于研發(fā)、檢測、臨床試驗階段。

   

深度學習雖然在商業(yè)領域已取得成功，但在醫(yī)學領域應用還存在諸多問題。由于醫(yī)學是經驗科學，本身存在著不確定性和開放性，決策路徑復雜，簡單將商業(yè)成功經驗移植到醫(yī)學場景并不能達到預期效果。

   

首先，深度學習是個“黑盒”，可解釋性差。醫(yī)生知其然但不知其所以然，影響后續(xù)醫(yī)療活動的開展，特別是長期使用產生依賴性之后較難發(fā)現(xiàn)產品出錯。

   

其次，深度學習以數(shù)據(jù)為基礎，但醫(yī)療數(shù)據(jù)不能完全代表臨床決策要素，同時其反映的是數(shù)據(jù)之間的相關性而非因果性，需要權衡對于醫(yī)生臨床決策的影響及其受益與風險。

   

第三，深度學習需要大量高質量數(shù)據(jù)進行訓練，滿足相應條件的醫(yī)療數(shù)據(jù)相對較少。一是醫(yī)療數(shù)據(jù)較為復雜，具有多維度特征，增加數(shù)據(jù)標注和算法訓練難度；二是醫(yī)療數(shù)據(jù)相對封閉，數(shù)據(jù)產權關系不清，數(shù)據(jù)獲取較為困難；三是醫(yī)療數(shù)據(jù)需要人工標注形成標簽以供訓練，人為因素影響嚴重。

   

最后，訓練數(shù)據(jù)缺乏多樣性，數(shù)據(jù)量不足，缺乏魯棒性設計，導致算法泛化能力弱，重復性和再現(xiàn)性差，臨床難以落地和推廣。

因此，只有在數(shù)據(jù)質量控制、算法泛化能力以及臨床使用風險等方面扎實做好工作，才能保證深度學習醫(yī)療器械的安全性和有效性。此外，需要數(shù)據(jù)驅動與知識驅動相結合，以提升深度學習的可解釋性。