檢測癌癥的算法可能會被黑客入侵的圖像所愚弄

一項新的研究表明，檢查醫(yī)學(xué)圖像中癌癥證據(jù)的人工智能程序可能會被黑客和網(wǎng)絡(luò)攻擊所欺騙。研究人員證明，計算機程序可以從乳房 X 光照片中添加或刪除癌癥的證據(jù)，而這些變化愚弄了人工智能工具和人類放射科醫(yī)生。
這可能會導(dǎo)致錯誤的診斷。幫助篩查乳房 X 光照片的 AI 程序可能會在實際上有癌癥跡象時說掃描是健康的，或者在患者實際上沒有癌癥時錯誤地說他們確實患有癌癥。目前還不知道現(xiàn)實世界中是否發(fā)生過此類黑客攻擊，但這項新研究增加了越來越多的研究，表明醫(yī)療保健組織需要為它們做好準備。
黑客越來越多地針對醫(yī)院和醫(yī)療機構(gòu)進行網(wǎng)絡(luò)攻擊。大多數(shù)情況下，這些攻擊會竊取患者數(shù)據(jù)（這在黑市上很有價值）或鎖定組織的計算機系統(tǒng)，直到該組織支付贖金為止。這兩種類型的攻擊都會通過破壞醫(yī)院的手術(shù)并使醫(yī)護人員更難提供良好的護理來傷害患者。
但專家們也越來越擔心人們健康受到更直接攻擊的可能性。例如，安全研究人員表明，黑客可以遠程闖入連接互聯(lián)網(wǎng)的胰島素泵并提供危險劑量的藥物。
可以改變醫(yī)學(xué)圖像并影響診斷的黑客也屬于這一類。在發(fā)表在Nature Communications上的關(guān)于乳房 X 線照片的新研究中，匹茲堡大學(xué)的一個研究小組設(shè)計了一個計算機程序，該程序可以使原本似乎沒有癌癥跡象的乳房的 X 射線掃描看起來像是癌變了，并且這將使看起來癌變的乳房 X 光照片看起來沒有癌癥跡象。然后，他們將篡改的圖像輸入到一個人工智能程序中，該程序經(jīng)過訓(xùn)練可以發(fā)現(xiàn)乳腺癌的跡象，并要求五名人類放射科醫(yī)生確定這些圖像是真的還是假的。
大約 70% 的被操縱圖像愚弄了該程序——也就是說，人工智能錯誤地認為被操縱看起來沒有癌癥的圖像是沒有癌癥的，而被操縱看起來好像患有癌癥的圖像確實有癌癥的證據(jù)。至于放射科醫(yī)生，有些人比其他人更擅長發(fā)現(xiàn)被操縱的圖像。他們挑選假圖像的準確率范圍很廣，從 29% 到 71%。
其他研究也證明了對醫(yī)學(xué)圖像的網(wǎng)絡(luò)攻擊可能導(dǎo)致錯誤診斷的可能性。2019 年，一組網(wǎng)絡(luò)安全研究人員表明，黑客可以從 CT 掃描中添加或刪除肺癌的證據(jù)。這些變化也愚弄了人類放射科醫(yī)生和人工智能程序。
沒有發(fā)生過這樣的黑客攻擊的公開或引人注目的案例。但是黑客可能想要操縱諸如乳房 X 光檢查或肺癌掃描之類的東西有幾個原因。黑客可能有興趣針對特定患者，例如政治人物，或者他們可能想要更改自己的掃描以從保險公司獲得資金或注冊殘疾金。黑客也可能會隨機操縱圖像并拒絕停止篡改圖像，直到醫(yī)院支付贖金為止。
不管是什么原因，像這樣的演示表明醫(yī)療保健組織和設(shè)計人工智能模型的人應(yīng)該意識到改變醫(yī)療掃描的黑客是可能的。匹茲堡大學(xué)放射學(xué)、生物醫(yī)學(xué)信息學(xué)和生物工程副教授、研究作者山東吳在一份聲明中說，在訓(xùn)練期間應(yīng)該向模型展示經(jīng)過處理的圖像，以教他們識別假圖像。放射科醫(yī)生可能還需要接受培訓(xùn)以識別假圖像。
“我們希望這項研究能讓人們思考醫(yī)療 AI 模型的安全性以及我們可以做些什么來防御潛在的攻擊，”吳說。
文章轉(zhuǎn)載自咨詢精選榜