印第安納州-人工智能(AI)驅(qū)動的醫(yī)療保健有可能改變醫(yī)療決策和治療的潛力,但是必須對這些算法進(jìn)行徹底測試并對其進(jìn)行持續(xù)監(jiān)控,以免給患者帶來意想不到的后果。
在JAMA網(wǎng)絡(luò)公開邀請評論中,Regenstrief研究所所長兼首席執(zhí)行官以及印第安納大學(xué)醫(yī)學(xué)院信息與健康服務(wù)研究副院長PeterEmbí,醫(yī)學(xué)博士,醫(yī)學(xué)博士,強(qiáng)烈指出了算法警惕對于解決醫(yī)療算法中固有的偏見的重要性。他們的部署。算法警戒(Embí博士創(chuàng)造的一個術(shù)語)可以定義為與評估,監(jiān)視,理解和預(yù)防算法在醫(yī)療保健中的不良影響有關(guān)的科學(xué)方法和活動。
Embí博士說:“在沒有首先確保其功效和安全性的情況下,我們不會考慮使用一種新的藥物或設(shè)備來治療患者。”“以同樣的方式,我們必須認(rèn)識到,算法既有好處,也有危害,因此有待研究。而且,與藥物或設(shè)備相比,算法通常具有更多的復(fù)雜性和變化性,例如如何部署,與他們互動的人,以及與算法互動的臨床工作流程。”
該評論是對IBM科學(xué)家進(jìn)行的一項研究的回應(yīng),該研究評估了為預(yù)測產(chǎn)后抑郁而開發(fā)的醫(yī)療保健算法的不同偏向性方法。恩比博士說,這項研究表明,去偏方法可以幫助解決用于開發(fā)和部署人工智能方法的數(shù)據(jù)中存在的潛在差異。他還說,這項研究表明,對這些算法的有效性和公平性進(jìn)行評估和監(jiān)控是必要的,甚至在道德上也是必需的。
“算法性能隨著部署有不同的數(shù)據(jù),不同的設(shè)置和不同的人機(jī)交互而發(fā)生了變化。這些因素可能將一種有益的工具變成一種會造成意想不到的傷害的工具,因此必須不斷評估這些算法,以消除那些固有的和系統(tǒng)性的不平等現(xiàn)象。存在于我們的醫(yī)療保健系統(tǒng)中。”Embí博士繼續(xù)說道。“因此,當(dāng)務(wù)之急是我們繼續(xù)開發(fā)工具和功能,以在醫(yī)療保健算法的開發(fā)和使用中實(shí)現(xiàn)系統(tǒng)的監(jiān)視和警惕。”
標(biāo)簽: 保健AI
免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!