En 400-6655-581
5
返回列表
> 資源中心 > 文章>主題>網(wǎng)安動態(tài)> AI造出9張“萬能人臉”,可冒充超40%的人

AI造出9張“萬能人臉”,可冒充超40%的人

文章

2021-08-17瀏覽次數(shù):145

      8 月 16 日消息,近日,以色列特拉維夫大學(xué)研究人員證明了一種創(chuàng)建“萬能人臉(master face)”的方法。

      這種計算機生成的“萬能人臉”作用就像萬能鑰匙一樣,可以模仿多個身份,通過基于人臉識別的身份驗證。

      該研究論文題目為《利用網(wǎng)絡(luò)輔助的潛在空間演化生成字典攻擊的萬能人臉(Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution)》,已提交至論文預(yù)印本發(fā)布平臺 arXiv 上。

  論文鏈接:

  https://arxiv.org/pdf/2108.01077.pdf

  一、萬能指紋技術(shù)帶來靈感

  由于其方便性,生物識別認證,特別是人臉識別認證,已日益成為主流,因此現(xiàn)在成為攻擊者的主要目標。

  攻擊一般的計算機認證系統(tǒng)時,有破解者會采取字典式攻擊,通過連續(xù)嘗試多個輸入來嘗試通過認證系統(tǒng)。

  而在現(xiàn)實世界的生物識別系統(tǒng)中,人們通常只能嘗試幾次輸入,然后系統(tǒng)就會鎖定。并且使用生物統(tǒng)計學(xué)進行的匹配并不精確,加之生物學(xué)統(tǒng)計數(shù)據(jù)的空間分布不均勻,這表明可能少量樣本可以覆蓋更大的人口比例。

  特拉維夫大學(xué)研究人員從“萬能指紋”研究中獲得了靈感,他們開發(fā)了一種“萬能人臉”,來繞過人臉識別軟件。

  二、通過算法分類對比,選出 9 張“萬能人臉”

  研究人員首先使用人工智能領(lǐng)域廣泛使用的生成模型 StyleGAN,來進行“萬能人臉”的制作。

▲“萬能人臉”訓(xùn)練過程

  然后研究人員然后使用算法和神經(jīng)網(wǎng)絡(luò)來優(yōu)化。有限內(nèi)存矩陣自適應(yīng)進化策略(LM-MA-ES)算法是非常適合高維黑匣子優(yōu)化的,但是還需要增加一個組件,來推斷哪些人臉是交叉身份認證的最佳候選選項。

      所以,研究人員創(chuàng)建了一個“成功預(yù)測器(Success Predictor)”神經(jīng)分類器,將大量候選人臉圖像篩選出合適、可完成繞過人臉識別軟件任務(wù)的人臉圖像。

▲“成功預(yù)測器”神經(jīng)分類器原理▲“成功預(yù)測器”神經(jīng)分類器原理

    研究人員使用算法和分類器將每一個系統(tǒng)輸出的虛假人臉都與 Labeled Faces in the Wild(LFW)數(shù)據(jù)庫中 5749 個不同人的真實照片進行比較,并給出平均集覆蓋率(Mean Set Coverage,MSC)分數(shù),只保留分數(shù)高的虛假人臉圖像。

  其中對圖像比較得到的分數(shù)會用于訓(xùn)練進化算法,幫助研究人員使用 StyleGAN,創(chuàng)建出越來越多看起來像數(shù)據(jù)集中真實存在的人臉圖像。最終得到 9 張“萬能人臉”圖像。

▲ 九張“萬能人臉”

  三、能覆蓋超 40% 數(shù)據(jù)集

  研究人員使用“萬能人臉”對三種不同的深度人臉識別系統(tǒng):dlib、FaceNet、SphereFace 進行測試,因為這幾種人臉識別系統(tǒng)在 LFW 數(shù)據(jù)集中測試競賽的排名最高。

                 ▲ 9 張生成的圖像所覆蓋的數(shù)據(jù)集的百分比

       研究人員實驗得到,9 張“萬能人臉”覆蓋了這三種人臉識別系統(tǒng)中 42%-64% 的數(shù)據(jù)集,也就是說 9 張“萬能人臉”可以通過這些人臉識別系統(tǒng)中 42%-64% 的身份驗證。

  結(jié)語:人臉識別系統(tǒng)準確性備受關(guān)注

  隨著人臉識別技術(shù)的普遍應(yīng)用,除了涉及到隱私保護問題外,人臉識別的準確性同樣是人們熱議的話題。美國就有幾起因為人臉識別錯誤而錯誤發(fā)生逮捕的事件,引起了很大輿論反響。

  特拉維夫大學(xué)研究人員其實給出了很好的思路,從如何破解人臉識別系統(tǒng)入手反推人臉識別系統(tǒng)漏洞,這樣可以更好地完善人臉識別系統(tǒng)。

      文章轉(zhuǎn)載自財經(jīng)自媒體