En 400-6655-581
5
返回列表
> 資源中心 > 文章>主題>AI安全> 意大利禁用ChatGPT、三星機密資料遭泄漏,AI背后的技術(shù)安全新思考

意大利禁用ChatGPT、三星機密資料遭泄漏,AI背后的技術(shù)安全新思考

文章

2023-04-04瀏覽次數(shù):265

近日,意大利禁用ChatGPT;韓媒報道,三星引入ChatGPT不到20天,機密資料遭外泄……而據(jù)網(wǎng)絡用戶反饋,自3月30日起,ChatGPT平臺大規(guī)模賬號被封禁。據(jù)市場統(tǒng)計,已有數(shù)百萬用戶的賬號受到了影響。


這些事件的發(fā)生并不是沒有預兆的。早在 3 月上旬,就有部分用戶爆料其聊天列表中顯示他人的聊天記錄,一時間 ChatGPT 泄露用戶數(shù)據(jù)在各大社交媒體霸榜。

 

OpenAI 首席執(zhí)行官薩姆 · 奧爾特曼最后不得不緊急發(fā)布推文解釋,導致用戶 ChatGPT 聊天歷史泄露的 BUG 是源于開源代碼庫中的一個錯誤。


ChatGPT的橫空出世,給人類在人工智能領(lǐng)域瞬間劃出了一條分水嶺,并獲得全球空前關(guān)注。有關(guān)人工智能“有利或有害”人類的話題鋪天蓋地襲來??赡艽蠖鄶?shù)人對它的印象是一個能進行文本對話的智能機器人。

 

這樣理解也沒錯,但其本質(zhì)上是一項技術(shù),背后是基于預訓練的、大型語言生成模型。所以可以應用在不同產(chǎn)品和場景。這也就是為什么已經(jīng)有很多公司,如三星等,或在產(chǎn)品或在服務中引入ChatGPT。

 

然而,在我們驚嘆人工智能超強學習能力并引入產(chǎn)品服務中的同時,更需要提前關(guān)注人工智能背后潛藏的數(shù)據(jù)信息安全問題。

 

海量數(shù)據(jù)的累積帶來了人工智能生產(chǎn)力的質(zhì)變,與此同時,從互聯(lián)網(wǎng)誕生起就始終伴隨的數(shù)據(jù)安全、隱私保護等問題,也成為人工智能大模型無法回避的伴生難題。

 

除此之外,網(wǎng)絡信息魚龍混雜,數(shù)據(jù)正確性與權(quán)威性如何判斷?最最細思極恐的是,人類為AI設定規(guī)則的速度是否遠遠落后于AI技術(shù)本身的學習和發(fā)展速度?《黑客帝國》中的人機大戰(zhàn)將會上演嗎?

▲ 圖片來自《黑客帝國》視頻截圖

 

自技術(shù)發(fā)明伊始,有關(guān)技術(shù)善論與惡論的話題就一直爭論不休,始終達不成共識。然而,從現(xiàn)實來看,文明要發(fā)展,社會要進步,技術(shù)的推動力不可或缺。我們需要承認技術(shù)帶來的“好”,也需要盡可能的提前規(guī)避技術(shù)可能帶來的“壞”。

 

所以,無論是國家還是企業(yè)組織在引入一項新技術(shù)的同時,切記提前思考、商定包含審慎監(jiān)管的細節(jié),提前做好安全部署。

 

尤其是在當下,企業(yè)數(shù)字化轉(zhuǎn)型在加速推進。企業(yè)在追求業(yè)務創(chuàng)新突破,引入了各種新技術(shù)或上線了各種新業(yè)務應用系統(tǒng)。如何在保障企業(yè)數(shù)據(jù)信息、用戶信息等安全合法合規(guī)的前提下完成新技術(shù)的引進以及新業(yè)務系統(tǒng)的建設是每一個企業(yè)組織需要做好前置思考與準備的。

 

以本文中的AI技術(shù)為例。AI嵌入在企業(yè)眾多業(yè)務系統(tǒng)中,如何做好數(shù)據(jù)的分類分級?如何保證哪些數(shù)據(jù)能被用于AI?哪些數(shù)據(jù)需要嚴格保密?哪些在法律監(jiān)管層面是不允許觸碰的?如何限制內(nèi)部員工數(shù)據(jù)訪問權(quán)限,從而降低機密數(shù)據(jù)泄露給AI的可能性……

 

這些都要提前明晰并制定好相應的安全防護策略與制度。隨后,企業(yè)就要從技術(shù)層面進行技術(shù)壁壘上的安全隔離。

 

派拉軟件認為,企業(yè)可以通過對數(shù)據(jù)實施分類分級,同時加強訪問管理、權(quán)限管理、API接口管理、數(shù)據(jù)庫訪問管理等,提升企業(yè)的數(shù)據(jù)安全能力,降低新興技術(shù)應用帶來的安全風險。

 

訪問接入前先經(jīng)由SDP構(gòu)建的虛擬邊界,實現(xiàn)先驗證后連接;再到中間IAM的統(tǒng)一身份管理認證、權(quán)限分配及審計管理等5A能力;最后通過API網(wǎng)關(guān)安全實現(xiàn)外部對內(nèi)部各業(yè)務系統(tǒng)的安全可信訪問;

 

在數(shù)據(jù)庫端還有數(shù)據(jù)庫訪問安全產(chǎn)品進行數(shù)據(jù)庫統(tǒng)一管理,防止企業(yè)內(nèi)部數(shù)據(jù)泄露、誤操作等帶來的數(shù)據(jù)危害。通過多節(jié)點、多維度的安全技術(shù)防護,最終實現(xiàn)企業(yè)內(nèi)部數(shù)據(jù)安全保護。

 

同理,企業(yè)在上線其他新業(yè)務系統(tǒng)時,各異構(gòu)系統(tǒng)的互聯(lián)互通,且滿足安全可信、可授權(quán)、可審計、可分析、可追溯的控制訪問管理,均可通過派拉軟件提供的端到端的網(wǎng)絡安全技術(shù)實現(xiàn)。

 

未來,派拉軟件也將引入人工智能和機器學習來加強自身產(chǎn)品的網(wǎng)絡安全防護能力,從而助力企業(yè)組織打造更加堅實可靠的協(xié)同運營管理創(chuàng)新發(fā)展的數(shù)字化安全技術(shù)底座,為人類創(chuàng)造一個安全,高效,極致體驗的數(shù)字世界。

 

當然,這樣的數(shù)字世界還有很長的路要走,甚至永無盡頭,但義無反顧!