當(dāng)網(wǎng)絡(luò)犯罪分子開始使用機(jī)器學(xué)習(xí)時(shí)會(huì)發(fā)生什么？

Tamlin+Magee+Charles

人工智能威脅防御公司Darktrace的網(wǎng)絡(luò)分析總監(jiān)Andrew Tsonchev說，這使黑客能發(fā)動(dòng)以前只有民族國家才知道的攻擊。

過去幾年中，機(jī)器學(xué)習(xí)威脅檢測(cè)和防御公司Darktrace已經(jīng)成為網(wǎng)絡(luò)安全行業(yè)的后起之秀。其核心無監(jiān)督機(jī)器學(xué)習(xí)技術(shù)使其被譽(yù)為人工智能安全領(lǐng)域最優(yōu)秀的公司。但是，站在網(wǎng)絡(luò)安全研究最前沿的那些人們究竟擔(dān)心什么呢？

上個(gè)月底，在倫敦Docklands的IP博覽會(huì)上，英國《計(jì)算機(jī)世界》雜志采訪了Darktrace的網(wǎng)絡(luò)分析總監(jiān)Andrew Tsonchev。

他說：“很多解決方案都著眼于以前的攻擊，并試圖從中吸取教訓(xùn)，因此人工智能和機(jī)器學(xué)習(xí)是圍繞著以前所看到的東西來學(xué)習(xí)的。這是非常有效的，比如說，一種機(jī)器學(xué)習(xí)分類器可以檢測(cè)到銀行木馬程序?！?/p>

但它的另一面是什么呢？如果供應(yīng)商在威脅探測(cè)中認(rèn)真地對(duì)待人工智能，那么犯罪領(lǐng)域的同行們何嘗不會(huì)這樣呢？這些黑客現(xiàn)在是不是也像我們所相信的一些供應(yīng)商那么老練呢？

要了解機(jī)器學(xué)習(xí)在哪些方面對(duì)攻擊者而言有用武之地，可以先參考一些在防御方面有很強(qiáng)優(yōu)勢(shì)的例子。

Tsonchev說：“技術(shù)上簡(jiǎn)單的攻擊是非常有效的。我們確實(shí)看到網(wǎng)絡(luò)上很多成功的攻擊并非華而不實(shí)的定制開發(fā)，定制惡意軟件是為了躲避檢測(cè)而設(shè)計(jì)的。很多時(shí)候還是老一套：偷密碼、網(wǎng)絡(luò)釣魚，各種各樣這類的東西。

問題是這些攻擊仍然非常有效，但卻很難被發(fā)現(xiàn)。很多時(shí)候，例如，有一種情況，攻擊者使用現(xiàn)有員工的憑證，一臺(tái)外部服務(wù)器被攻破了；還有一種情況，員工在個(gè)人環(huán)境和工作環(huán)境中不慎使用了相同的密碼，而這是不應(yīng)該的。如果數(shù)據(jù)和密碼被泄露，犯罪分子就會(huì)進(jìn)入這些交易和共享數(shù)據(jù)庫。這些密碼極有可能適用于公司系統(tǒng)。

這些攻擊并沒有什么聰明之處，如果您仔細(xì)查看，其惡意并不是與生俱來的。如果您以違反政策為由來尋找威脅，那它們不算違反政策。這是一種身份認(rèn)證攻擊，某些人使用了可以訪問系統(tǒng)的密碼，訪問了早應(yīng)被刪除的文件。

“這是不受歡迎的，是欺詐，但在技術(shù)上，它在違反訪問控制方面并不是惡意的，這使得它很難被檢測(cè)到?！?/p>

在這些情況下，人們根本不相信技術(shù)指標(biāo)，很難定義一種技術(shù)指標(biāo)，這是比通過后門訪問網(wǎng)絡(luò)更難定義的指標(biāo)。而這正是行為理解和人工智能發(fā)揮長(zhǎng)處的地方，像人類一樣，更好地發(fā)現(xiàn)往往不可預(yù)測(cè)而且棘手的復(fù)雜問題。

Tsonchev說，目前為止，Darktrace還沒有發(fā)現(xiàn)自然產(chǎn)生的真正的機(jī)器學(xué)習(xí)攻擊。

Tsonchev解釋說：“這是我們非常關(guān)注的，也是我們正在做的，我們都非常清楚這樣做的好處，所以我們很擔(dān)心會(huì)出現(xiàn)大量可供攻擊者使用的人工智能惡意軟件和工具包。”

Tsonchev說：“人工智能的危險(xiǎn)之處在于它是雙刃劍。在那一瞬間，您可以使用支持人工智能的工具來進(jìn)行大規(guī)模的復(fù)制，而之前只能逐個(gè)地去發(fā)現(xiàn)目標(biāo)，進(jìn)行定制攻擊。

“總的來說，這是因?yàn)槿斯ぶ悄艿膽?yīng)用有利于決策，而以前這是人類發(fā)起攻擊的所作所為。有網(wǎng)絡(luò)攻擊者，也有本機(jī)攻擊者，它們?cè)诠羟皶?huì)去探路。它們能看出缺點(diǎn)是什么。它們可以根據(jù)自己發(fā)現(xiàn)的特定環(huán)境來調(diào)整攻擊路徑，這就是它們很難被發(fā)現(xiàn)的原因。

“我們非常擔(dān)心能這樣做的惡意軟件：使用機(jī)器學(xué)習(xí)分類器的惡意軟件上網(wǎng)并觀察網(wǎng)絡(luò)，看看自己能干些什么。”

這種想法可以應(yīng)用于我們熟悉的所有攻擊。以大部分網(wǎng)絡(luò)釣魚攻擊為例：在大多數(shù)情況下，這和實(shí)際的“撒餌，然后祈禱”的釣魚方式一樣，如果有人上鉤，那就太好了。

魚叉式網(wǎng)絡(luò)釣魚是目標(biāo)性很強(qiáng)的同類惡意攻擊方法，這要求攻擊者密切關(guān)注目標(biāo)，跟蹤目標(biāo)的社會(huì)媒體帳戶，建立他們的個(gè)人資料，他們采用電子郵件進(jìn)行操控，而這些電子郵件足以通過Tsonchev所謂的“人類健全人格檢查”。

令人擔(dān)心的是，人工智能被用于自動(dòng)完成這一過程。在定制開發(fā)中，訓(xùn)練人工智能系統(tǒng)來產(chǎn)生能通過可疑性測(cè)試的網(wǎng)絡(luò)釣魚電子郵件。您可以利用大量的真正的電子郵件來訓(xùn)練人工智能分類器，讓它學(xué)會(huì)什么東西能讓人信服。

一旦成功了，能起作用了，它能自生自滅了，那么任何人任何企業(yè)都沒辦法阻止它。

因此，它有可能對(duì)中小企業(yè)發(fā)起高水平而且非常老練的攻擊，這類攻擊目前只有民族國家針對(duì)高價(jià)值目標(biāo)時(shí)才去實(shí)施。

“這真的讓人擔(dān)心?！眅ndprint