新的人工智能模型可以幫助防止破壞性數(shù)據(jù)泄露

新的人工智能模型可以幫助防止破壞性數(shù)據(jù)泄露

英國倫敦帝國理工學(xué)院計(jì)算隱私小組的專家發(fā)現(xiàn)，人工智能(AI) 可用于自動(dòng)發(fā)現(xiàn)基于查詢 (QBS) 系統(tǒng)中的易受攻擊的數(shù)據(jù)泄露。

該團(tuán)隊(duì)分析了 QBS 系統(tǒng)上的數(shù)據(jù)泄露——分析師可以通過該界面查詢數(shù)據(jù)以提取有關(guān)世界的有用聚合信息。通過這種方式，他們能夠開發(fā)一種新的支持人工智能的方法，稱為 QuerySnout。這是人工智能首次被用于自動(dòng)發(fā)現(xiàn)此類系統(tǒng)中的漏洞。

該研究的資深作者 Yves-Alexandre de Montjoye 博士說：“到目前為止，攻擊是使用高技能的專業(yè)知識(shí)手動(dòng)開發(fā)的。這意味著需要很長時(shí)間才能發(fā)現(xiàn)數(shù)據(jù)泄露，從而使系統(tǒng)面臨風(fēng)險(xiǎn)。

“QuerySnout 在發(fā)現(xiàn)現(xiàn)實(shí)世界系統(tǒng)中的漏洞方面已經(jīng)超越了人類。”

該研究作為第29屆ACM 計(jì)算機(jī)和通信安全會(huì)議的一部分發(fā)表。

為什么我們需要基于查詢的系統(tǒng)？

在過去十年中，收集和存儲(chǔ)數(shù)據(jù)的能力有了很大的提高。盡管這些數(shù)據(jù)有助于推動(dòng)科學(xué)進(jìn)步，但其中大部分是個(gè)人數(shù)據(jù)，因此使用它會(huì)引發(fā)嚴(yán)重的隱私問題。歐盟通用數(shù)據(jù)保護(hù)條例等法律旨在防止有關(guān)個(gè)人信息的嚴(yán)重?cái)?shù)據(jù)泄露。

這意味著在保護(hù)我們的基本隱私權(quán)的同時(shí)，使數(shù)據(jù)能夠被永久使用，對(duì)于數(shù)據(jù)科學(xué)家和隱私專家來說是一個(gè)及時(shí)而重要的過程。

QBS 系統(tǒng)有可能實(shí)現(xiàn)大規(guī)模的隱私保護(hù)匿名數(shù)據(jù)分析。策展人保持對(duì)數(shù)據(jù)的控制，這意味著他們可以檢查和檢查分析師發(fā)送的查詢以防止數(shù)據(jù)泄露。

然而，這個(gè)系統(tǒng)是有缺陷的，因?yàn)榉欠ü粽呖梢酝ㄟ^設(shè)計(jì)查詢來推斷個(gè)人信息來繞過這些系統(tǒng)。他們通過利用系統(tǒng)中的漏洞或執(zhí)行錯(cuò)誤來獲取特定人員的信息，從而導(dǎo)致嚴(yán)重的數(shù)據(jù)泄露。

測試 QuerySnout

黑客利用系統(tǒng)缺陷進(jìn)行未知的強(qiáng)“零日”攻擊的風(fēng)險(xiǎn)已經(jīng)停滯并延遲了 QBS 系統(tǒng)的開發(fā)。為了測試這些系統(tǒng)的強(qiáng)度，可以模擬數(shù)據(jù)泄露攻擊以檢測信息泄漏并識(shí)別可能的缺陷。

然而，針對(duì)復(fù)雜的 QBS 手動(dòng)設(shè)計(jì)和實(shí)施這些攻擊是一個(gè)困難且漫長的過程。因此，根據(jù)研究人員的說法，限制安全攻擊的可能性對(duì)于安全使用 QBS 至關(guān)重要。

QuerySnout 的工作原理是學(xué)習(xí)向系統(tǒng)詢問哪些問題以獲得答案。然后，它會(huì)學(xué)習(xí)自動(dòng)組合答案以檢測潛在的隱私漏洞。

通過使用機(jī)器學(xué)習(xí)，該模型可以創(chuàng)建由一組查詢組成的數(shù)據(jù)泄露。這些查詢結(jié)合答案以使用稱為“進(jìn)化搜索”的全自動(dòng)技術(shù)揭示私人信息，使模型能夠發(fā)現(xiàn)要問的正確問題集。

由于該過程發(fā)生在“黑匣子設(shè)置”中，人工智能只需要訪問系統(tǒng)而不是知道它是如何工作的，就可以檢測潛在的數(shù)據(jù)泄露。

該研究的共同第一作者 Ana-Maria Cretu 說：“我們證明了 QuerySnout 發(fā)現(xiàn)了比目前在現(xiàn)實(shí)世界系統(tǒng)中已知的攻擊更強(qiáng)大的攻擊。這意味著我們的人工智能模型比人類更擅長發(fā)現(xiàn)這些攻擊。”

進(jìn)一步開發(fā) QuerySnout 以發(fā)現(xiàn)更高級(jí)的數(shù)據(jù)泄露

目前，QuerySnout 系統(tǒng)只測試了少量潛在的數(shù)據(jù)泄露事件。因此，該團(tuán)隊(duì)正在尋求進(jìn)一步推進(jìn)系統(tǒng)以檢測更復(fù)雜的漏洞。

根據(jù) de Montjoye 博士的說法：“向前發(fā)展的主要挑戰(zhàn)將是將搜索擴(kuò)展到更多的功能，以確保它發(fā)現(xiàn)甚至是最先進(jìn)的攻擊。”

盡管如此，該模型可以讓分析師測試 QBS 對(duì)不同類型攻擊者的穩(wěn)健性。QuerySnout 的開發(fā)代表了在保護(hù)與基于查詢的系統(tǒng)相關(guān)的個(gè)人隱私方面向前邁出的關(guān)鍵一步。

深圳市晶光華電子有限公司 專注石英晶振生產(chǎn)26年，強(qiáng)大的專業(yè)團(tuán)隊(duì)，服務(wù)超過上千家客戶，高品質(zhì)， 年產(chǎn)能6億PCS，幫助客戶選型，免費(fèi)匹配及測試，交付快；如果您對(duì)我們的石英晶振感興趣，歡迎咨詢我們的客服，獲取詳細(xì)資料及報(bào)價(jià)，我們將為您提供專業(yè)貼心的服務(wù)。