忽視安全，人工智能將從“風(fēng)口”掉落到“火山口”

2017年，人工智能首次寫(xiě)入《政府工作報(bào)告》，自此，人工智能飛至“風(fēng)口”，已遠(yuǎn)遠(yuǎn)超過(guò)前60年的速度高速發(fā)展?？僧?dāng)人們醉心于新鮮事物帶來(lái)的全新體驗(yàn)，卻忽視了其暗藏的安全問(wèn)題。如果安全問(wèn)題沒(méi)有得到充分重視，人工智能很有可能會(huì)掉落到風(fēng)險(xiǎn)巨大的“火山口”。

人工智能惡意使用的安全威脅

2月底，來(lái)自O(shè)penAI 、人類(lèi)未來(lái)研究所、牛津大學(xué)、劍橋大學(xué)等14家機(jī)構(gòu)和高校的共 26 名學(xué)者在 arXiv 上發(fā)表一篇名為《人工智能的惡意使用：預(yù)測(cè)、預(yù)防和緩解》（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）的研究成果報(bào)告（以下簡(jiǎn)稱(chēng)《報(bào)告》）。《報(bào)告》的重點(diǎn)內(nèi)容是在未實(shí)施充分的防御時(shí)，人工智能惡意使用所存在的潛在安全威脅。

《報(bào)告》詳細(xì)分析了人工智能在三個(gè)安全領(lǐng)域（數(shù)字安全、物理安全和政治安全）有可能發(fā)生的安全威脅，并舉出代表性的例子證明其可能性。數(shù)字安全方面，將出現(xiàn)合成聲波、自動(dòng)黑客攻擊和數(shù)據(jù)下毒等新型安全攻擊；物理安全方面，不法分子可將無(wú)人機(jī)或其他物理系統(tǒng)變成攻擊的武器；政治安全方面，人工智能可以檢測(cè)數(shù)據(jù)做有針對(duì)性的宣傳，造成侵犯隱私和左右輿論等安全威脅。

《報(bào)告》認(rèn)為，人工智能不僅擴(kuò)大現(xiàn)存安全威脅，還會(huì)引入新的安全威脅和改變現(xiàn)有威脅的典型特征。通過(guò)人工智能，完成對(duì)人類(lèi)攻擊者來(lái)說(shuō)不可能完成的攻擊，并非難事。此外，安全人員開(kāi)發(fā)的人工智能系統(tǒng)也會(huì)給惡意攻擊者帶來(lái)新的可乘之機(jī)。而且《報(bào)告》也相信伴隨著人工智能應(yīng)用的快速發(fā)展，安全攻擊將會(huì)更高效、更具有針對(duì)性、難于歸因且難以防守，這將在很大程度上改變傳統(tǒng)網(wǎng)絡(luò)安全威脅的典型特征。

《報(bào)告》中至少有兩處強(qiáng)調(diào)，人工智能可以達(dá)到攻擊規(guī)模和攻擊效率兩者平衡，而這直接改變了傳統(tǒng)網(wǎng)絡(luò)安全威脅的特征，更高效、更精準(zhǔn)、更匿名將成為安全威脅的新特征。以更高效為例，傳統(tǒng)攻擊中，攻擊者往往需要在兩者之間取舍，而人工智能系統(tǒng)超過(guò)人類(lèi)能力的潛力將會(huì)增加預(yù)計(jì)攻擊有效性的準(zhǔn)確度，使得由人工智能自動(dòng)化完成的網(wǎng)絡(luò)攻擊更高效，且這種高效的攻擊現(xiàn)目前并未有實(shí)質(zhì)性的預(yù)防措施；以更精準(zhǔn)為例，在規(guī)模和效率均能達(dá)到最優(yōu)效果之后，攻擊者便有精力將其攻擊限制在具有某些特性的目標(biāo)上，識(shí)別和分析潛在目標(biāo)進(jìn)行更為精準(zhǔn)的攻擊；以更匿名為例，攻擊者使用人工智能自動(dòng)化攻擊系統(tǒng)進(jìn)行攻擊，而非親自執(zhí)行。

如果安全問(wèn)題沒(méi)有得到充分重視，人工智能很有可能會(huì)掉落到風(fēng)險(xiǎn)巨大的“火山口”。

“一點(diǎn)也不意外”的黑客操作

“隨著人工智能應(yīng)用的普及，安全威脅會(huì)不斷增加，更多的應(yīng)用會(huì)把應(yīng)用的輸入接口直接或間接暴露出來(lái)。同時(shí)封閉系統(tǒng)的攻擊面也會(huì)隨著時(shí)間和環(huán)境而轉(zhuǎn)化?！苯?，由360安全研究院發(fā)布的《AI安全風(fēng)險(xiǎn)白皮書(shū)》（以下簡(jiǎn)稱(chēng)《白皮書(shū)》）指出人工智能，特別是深度學(xué)習(xí)領(lǐng)域帶來(lái)的安全威脅?！栋灼?shū)》認(rèn)為，被大家熟知的AlphaGo人工智能應(yīng)用是因?yàn)椴⒉慌c外界有直接的交互，所以安全威脅相對(duì)較小，如果人工智能要想應(yīng)用落地就必須考慮安全問(wèn)題。

在《報(bào)告》發(fā)表之前，兩位通訊作者M(jìn)iles Brundage 和 Shahar Avin 合寫(xiě)一篇較為簡(jiǎn)單的介紹性文章，文章標(biāo)題表達(dá)了作者的擔(dān)憂(yōu)——《利用AI來(lái)犯罪只是時(shí)間問(wèn)題》（It's only a matter of time before criminals turn AIs against us）（以下簡(jiǎn)稱(chēng)“文章”）。

文章認(rèn)為人工智能研究人員在開(kāi)發(fā)新應(yīng)用程序時(shí)需要考慮安全因素，如果不這樣做，黑客就會(huì)利用人工智能進(jìn)行惡意活動(dòng)。人工智能和所有新技術(shù)一樣都具有兩面性，會(huì)以各種方式使社會(huì)受益，但同樣也會(huì)以各種方式被惡意使用。文章舉出無(wú)人機(jī)、自動(dòng)駕駛車(chē)等網(wǎng)絡(luò)物理系統(tǒng)被黑客惡意使用的例子，自動(dòng)駕駛車(chē)可能會(huì)帶來(lái)車(chē)禍，便宜的商業(yè)無(wú)人機(jī)可能會(huì)被改造成面部識(shí)別導(dǎo)彈。

《報(bào)告》中給出了相應(yīng)威脅的假設(shè)性案例，例如，某安全管理系統(tǒng)的管理員瀏覽網(wǎng)站時(shí)，被一則模型火車(chē)的廣告吸引，并點(diǎn)開(kāi)下載小冊(cè)子。此時(shí)攻擊已經(jīng)開(kāi)始，小冊(cè)子一旦被打開(kāi)，黑客就能窺視他的電腦，獲得安全管理系統(tǒng)的用戶(hù)名和密碼。至于管理員看到的廣告，則是黑客根據(jù)其個(gè)人興趣，結(jié)合人工智能精心設(shè)計(jì)的“陷阱”。而這樣的操作正是黑客使用基于“強(qiáng)化學(xué)習(xí)”和其他AI技術(shù)來(lái)控制一大批半自動(dòng)機(jī)器人程序，通過(guò)廉價(jià)的個(gè)性宣傳精確地目標(biāo)人群。這樣一個(gè)8人釣魚(yú)團(tuán)隊(duì)就能達(dá)到8000人的水平。類(lèi)似的技術(shù)操作和實(shí)現(xiàn)效果在作者看來(lái)，“一點(diǎn)也不意外”。

“一點(diǎn)也不意外”的黑客操作近日被指出很有可能已經(jīng)在操縱美國(guó)大選。美國(guó)特別顧問(wèn)Robert Muller曾公開(kāi)指出，俄羅斯有一個(gè)80多人的全職專(zhuān)業(yè)團(tuán)隊(duì)破壞2016年美國(guó)總統(tǒng)選舉。通過(guò)使用虛假的美國(guó)公民身份，利用社交媒體平臺(tái)和其他網(wǎng)絡(luò)媒體來(lái)推進(jìn)他們的計(jì)劃?！耙稽c(diǎn)也不意外”的黑客操作同樣發(fā)生在我國(guó)。2017年，浙江警方破獲了一起利用人工智能犯罪，侵犯公民個(gè)人信息案。專(zhuān)業(yè)黑客用深度學(xué)習(xí)技術(shù)訓(xùn)練機(jī)器，讓機(jī)器能夠自主操作，批量識(shí)別驗(yàn)證碼。“很短時(shí)間就能識(shí)別上千上萬(wàn)個(gè)驗(yàn)證碼?！碑?dāng)時(shí)的辦案民警介紹。

全社會(huì)共同討論才是問(wèn)題正解

《報(bào)告》中，作者不無(wú)擔(dān)憂(yōu)地表示：如果沒(méi)有制定出足夠的防御措施，我們可能很快就會(huì)看到假設(shè)性的攻擊成為現(xiàn)實(shí)。

中國(guó)社科院文化法制研究中心研究員劉明接受《科技日?qǐng)?bào)》采訪時(shí)說(shuō)，技術(shù)帶來(lái)的問(wèn)題，有時(shí)也可以用技術(shù)發(fā)展來(lái)解決。當(dāng)攻擊方用上了導(dǎo)彈大炮，防御方就不能只用“小米加步槍”。“如果意識(shí)到自己所在行業(yè)存在人工智能帶來(lái)的威脅，自身加強(qiáng)防范就很重要?！蓖瑫r(shí)他也表示，如果用技術(shù)防御技術(shù)，“這可能是一場(chǎng)無(wú)止境的技術(shù)攻防戰(zhàn)。”

此外，道德和法律也是如何解決人工智能衍生問(wèn)題的兩大關(guān)鍵詞。哈佛法學(xué)院互聯(lián)網(wǎng)法教授Jonathan Zittrain說(shuō)，“我擔(dān)心，在技術(shù)的幫助下，我們的系統(tǒng)將變得更加復(fù)雜和緊密連合，人類(lèi)的可操控性會(huì)下降。并且這里（編者注：利益相關(guān)者）沒(méi)有任何一個(gè)方面需要考慮道德倫理問(wèn)題?！背藳](méi)有考慮道德問(wèn)題之外，關(guān)于“道德”或“公平”的概念也是十分含糊不清且難以界定。對(duì)此，英國(guó)科普作家Philip Ball表示，當(dāng)新的技術(shù)出現(xiàn)之后，肯定會(huì)隨之而來(lái)許多新的道德問(wèn)題，這是一個(gè)需要全人類(lèi)共同面對(duì)的挑戰(zhàn)，還需要全社會(huì)來(lái)參與討論。

在《報(bào)告》中也給出了緩解威脅的四點(diǎn)建議：

決策者應(yīng)與技術(shù)研究人員密切合作，調(diào)查、預(yù)防和減輕人工智能潛在的惡意用途；

人工智能的研究人員有責(zé)任采取一切可能的措施，幫助促進(jìn)技術(shù)的有益使用，防止有害用途；

研究現(xiàn)有較為成熟的解決雙重用途問(wèn)題的實(shí)踐方法，并研究是否適用與人工智能領(lǐng)域；

尋求更廣泛的交流。不僅包括，用戶(hù)、決策者、網(wǎng)絡(luò)安全和人工智能研究人員以及相關(guān)企業(yè)，還應(yīng)該包括倫理學(xué)家和其他利益相關(guān)者。

The Verge就此發(fā)表評(píng)論性文章表示，作者旨在希望通過(guò)更多的對(duì)話(huà)和更多的行動(dòng)解決行業(yè)問(wèn)題。