來自紐約大學(xué)、Evidation Health 和 NYU Langone Health 的一組研究人員發(fā)現(xiàn)，深度學(xué)習(xí)心電圖設(shè)備容易受到對抗性攻擊。在他們發(fā)表在《自然醫(yī)學(xué)》雜志上的論文中，該小組描述了他們?nèi)绾伍_發(fā)一種攻擊方法并用心電圖設(shè)備對其進(jìn)行測試。
在過去幾年中，人們發(fā)現(xiàn)深度學(xué)習(xí)系統(tǒng)非常擅長某些對人類具有挑戰(zhàn)性的任務(wù)，例如下棋或在人群中尋找面孔。深度學(xué)習(xí)系統(tǒng)也已應(yīng)用于醫(yī)學(xué)——例如幫助檢測乳腺癌腫瘤或監(jiān)測生命體征例如心跳，以提醒醫(yī)生或患者注意問題。其中一個應(yīng)用是心電圖采集系統(tǒng)，其中一個設(shè)備監(jiān)測心臟并分析心電圖——一個人的心跳記錄。已經(jīng)開發(fā)和訓(xùn)練了深度學(xué)習(xí)算法來尋找可能表明不規(guī)則心房顫動等活動的異常情況。智能手表等設(shè)備就是為使用它們而設(shè)計的。在這項新的努力中，研究人員發(fā)現(xiàn)了此類設(shè)備及其產(chǎn)生的輸出容易受到攻擊的證據(jù)。
研究人員通過首先獲得一組數(shù)千個心電圖記錄來證明深度學(xué)習(xí)心電圖設(shè)備的一個漏洞，他們將這些記錄分為四組之一：正常組、顯示心房顫動的組、其他組或噪聲組。在拆分?jǐn)?shù)據(jù)并在自己的卷積網(wǎng)絡(luò)上訓(xùn)練他們的系統(tǒng)后，他們向測試集中的樣本引入了少量噪聲——太小以至于人類無法分辨，但足以讓人工智能系統(tǒng)認(rèn)為它看到的是心房纖顫。測試表明它按計劃工作。系統(tǒng)錯誤地將正常的心電圖識別為心房顫動的例子在 74% 的測試圖表中。研究人員還向兩名臨床醫(yī)生展示了對抗樣本——他們沒有那么容易被愚弄。他們只發(fā)現(xiàn) 1.4% 的讀數(shù)貼錯了標(biāo)簽。
研究人員承認(rèn)，黑客很難用智能手機(jī)等真實心電圖設(shè)備的數(shù)據(jù)復(fù)制他們的努力，因為這需要直接訪問——這在現(xiàn)實世界中不太可能實現(xiàn)。但是，他們?nèi)匀槐硎荆麄兊呐Ρ砻?，基于人工智能的醫(yī)療設(shè)備在被批準(zhǔn)供公眾使用之前應(yīng)該進(jìn)行漏洞測試。
標(biāo)簽：
免責(zé)聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！