淺析人工智能安全問(wèn)題及其解決進(jìn)路的探究

張程奕

摘 要： 適應(yīng)陌生的環(huán)境總是喜歡以記錄的方式，雖然已經(jīng)忘記大學(xué)開(kāi)學(xué)時(shí)是如何適應(yīng)交大環(huán)境的，但這種記錄行為總是被鐫刻在腦海中…或許這是某些人群應(yīng)對(duì)新環(huán)境所表現(xiàn)出來(lái)的獨(dú)特適應(yīng)表現(xiàn)吧，或者叫適應(yīng)性行為。今天一天的工作是以早起開(kāi)始的，還是不太習(xí)慣早起的生活，早上總讓人感到有些困倦和不自在…想必是交大大四的生活帶給自己的被動(dòng)性吧…倘若自己的心中懷揣著夢(mèng)想，自己一定是很早很早到企業(yè)去完成自己任務(wù)的。查理就是那樣的人吧，總歸還是要一直不斷地努力下去的，不努力的話(huà)，會(huì)被市場(chǎng)中均值回歸的規(guī)律回歸到基本狀態(tài)的。

【中圖分類(lèi)號(hào)】 TP18 【文獻(xiàn)標(biāo)識(shí)碼】 A 【文章編號(hào)】 2236-1879（2018）11-0152-01

引言：

人工智能的問(wèn)題開(kāi)始逐漸地引發(fā)了自己產(chǎn)生了一些對(duì)薪酬的理解有了一些稍微獨(dú)特的認(rèn)識(shí)，薪酬的規(guī)則設(shè)定仿佛也被規(guī)律化了，用規(guī)律來(lái)精準(zhǔn)地調(diào)控個(gè)人的薪水。也開(kāi)始對(duì)真實(shí)的工作有個(gè)更加深入的認(rèn)識(shí)，但這種認(rèn)識(shí)是之前從未有過(guò)的，一種仿佛置身事外以旁觀(guān)者視角觀(guān)察整個(gè)體系的運(yùn)轉(zhuǎn)，能非常直觀(guān)地看到一些問(wèn)題，隱約地感覺(jué)閉環(huán)和一些工作流程的欠缺，但尚未想到較好的解決方案，或許時(shí)間能讓自己逐漸升級(jí)成“發(fā)現(xiàn)問(wèn)題”到“解決問(wèn)題”——很多東西真的是沒(méi)發(fā)展到特定階段，能看出很多端倪，比如教育的問(wèn)題，但總是覺(jué)得徹底改革教育的勢(shì)頭還未到來(lái)，往往最表象的道理，最貼近簡(jiǎn)單生活實(shí)際的調(diào)整越需要更深層次的邏輯，必須要對(duì)復(fù)雜系統(tǒng)有更加深入的了解才有可能深入認(rèn)識(shí)。

一.人工智能安全問(wèn)題簡(jiǎn)述

人工智能給我提了一個(gè)全局性的方案，是以注塑工藝為核心，原材料，模具，干燥機(jī)/控溫機(jī)/機(jī)械手/注塑機(jī)的工藝的匯總才能更好地產(chǎn)出汽車(chē)/醫(yī)療/CE等產(chǎn)品。工業(yè)互聯(lián)網(wǎng)的發(fā)展情況，在目前看來(lái)，這些都需要進(jìn)一步的深入學(xué)習(xí)吧。第一天攝入的信息量還是蠻大的，當(dāng)然也不指望自己能夠迅速通盤(pán)地接受這一切，還是需要深入慢慢地理解這一切的緣由。

校園生活的邏輯和職場(chǎng)生活的邏輯是完全不同的了，研究生和博士生已經(jīng)工作很大程度上是個(gè)非常相似的事情，都是為了自己的一個(gè)預(yù)期或者夢(mèng)想，不斷實(shí)現(xiàn)自己的夢(mèng)想吧。和我同窗的伙伴——查理，工作了三年逐漸明白了這些事情的道理，開(kāi)始心有夢(mèng)想地不斷努力著，朝著夢(mèng)想奮斗著…大家都是創(chuàng)一代，在城市化之前，自己的父母沒(méi)有把握住浪潮，而城市化之后，之前追求KPI的游戲規(guī)則也以發(fā)生了改變變成了市場(chǎng)規(guī)律這個(gè)更加強(qiáng)大的武器…我們必須適應(yīng)這個(gè)過(guò)程。感覺(jué)自己仿佛是突然才明白這個(gè)道理的，亦或者是看了《一人之下》后才逐漸才家庭教育和童年教育中對(duì)城市化的無(wú)感，從小沒(méi)有生活在大城市怕是限制了自己的想象力和可能性。

二.人工智能安全問(wèn)題的發(fā)展

人工智能的制備方法繁雜，有些方法可以得到高質(zhì)量的人工智能，但卻非常不適合大規(guī)?；a(chǎn)。而且得到的人工智能中會(huì)存在各種各樣的缺陷，這種缺陷是由制備方法導(dǎo)致的，是不可避免的。缺陷的存在會(huì)很大程度上影響產(chǎn)品的化學(xué)性質(zhì)、物理性質(zhì)。而人工智能中最主要的缺陷包括空位缺陷、表面吸附雜質(zhì)原子及拓?fù)淙毕莸?。人工智能的改良及其改進(jìn)方向

為了改善人工智能在未來(lái)的電子、光子和存儲(chǔ)應(yīng)用中的性能，他們探索出了新方法，并將研究成果發(fā)表在最近一期的《科學(xué)報(bào)告》雜志上。此外，賓夕法尼亞州立大學(xué)研究人員帶領(lǐng)的研究小組還進(jìn)行了另外一項(xiàng)相關(guān)研究，他們使用摻雜工藝，將外來(lái)的原子摻雜到薄膜的晶格中，從而改變或者提升材料的特性。他們將這項(xiàng)研究成果發(fā)表在這周的《高級(jí)功能材料》雜志上。不僅如此，賓夕法尼亞州立大學(xué)研究人員還大大改善了人工智能的摻雜濃度，摻雜解決了兩個(gè)問(wèn)題：對(duì)于晶體管和傳感器等應(yīng)用來(lái)說(shuō)，它使得材料更加導(dǎo)電；同時(shí)，它通過(guò)改善所謂的“硫空位”缺陷，提高了材料的質(zhì)量。團(tuán)隊(duì)預(yù)測(cè)，更高的錸摻雜將完全消除“硫空位”帶來(lái)的影響。

三.人工智能安全問(wèn)題的解決方式

（1）安全性和魯棒性；

安全性和魯棒性 （security and robustness）：在不同環(huán)境下可靠的性能，目前的模型既不安全也不魯棒的一個(gè)有趣的原因是它們對(duì)「對(duì)抗樣本」的敏感性。最常見(jiàn)的對(duì)抗樣本類(lèi)型是圖像像素?zé)o法檢測(cè)到的擾動(dòng)導(dǎo)致模型進(jìn)行錯(cuò)誤的判斷。即使對(duì)熊貓形象的微小改變也能欺騙學(xué)習(xí)模型，讓模型認(rèn)為有 99.3% 的可能是長(zhǎng)臂猿。但對(duì)抗樣本不限于這種圖像處理詭計(jì)。一些研究人員提出了更廣泛的定義：「對(duì)抗樣本是攻擊者故意引入機(jī)器學(xué)習(xí)模型，旨在導(dǎo)致模型出錯(cuò)。」按照這個(gè)定義，對(duì)抗樣本不僅可以用來(lái)攻擊視覺(jué)系統(tǒng)，而且可以用來(lái)攻擊任何類(lèi)型的模型。

（2）可理解性和可解釋性：

這篇論文來(lái)自于 NIPS 2017 大會(huì)上由 Google Brain 團(tuán)隊(duì)舉辦的 NIPS 2017 對(duì)抗攻擊防御比賽。比賽包括非目標(biāo)攻擊 （non-targeted attack）、有針對(duì)性的攻擊 （targeted attack） 和防御 （defense）。每個(gè)類(lèi)別都使用黑盒圖像分類(lèi)器和類(lèi)似 ImageNet 的圖像數(shù)據(jù)集作為基礎(chǔ)，這里的「黑盒」表示攻擊者無(wú)法知道目標(biāo)模型的權(quán)重?！阜悄繕?biāo)攻擊」的方法需要對(duì)給定的圖片進(jìn)行處理，使得某個(gè)機(jī)器學(xué)習(xí)分類(lèi)器識(shí)別其為任意類(lèi)別，而「有針對(duì)性的攻擊」的方法需要讓某個(gè)機(jī)器學(xué)習(xí)分類(lèi)器能成功將圖像識(shí)別為屬于特定的錯(cuò)誤類(lèi)別。

（3）獎(jiǎng)勵(lì)學(xué)習(xí)：

對(duì)于非目標(biāo) （non-targeted） 和有針對(duì)性 （targeted） 的攻擊類(lèi)型，清華團(tuán)隊(duì)采用已經(jīng)建立的基于迭代的技術(shù)來(lái)生成對(duì)抗性攻擊（「iterative fast gradient sign method」，I-FGSM）并增加了動(dòng)量項(xiàng)，從而減少這種算法經(jīng)常遇到的過(guò)擬合問(wèn)題。為了增加這些對(duì)抗性攻擊在不同模型之間可以遷移的程度，他們針對(duì)使用分類(lèi)器的集成來(lái)實(shí)現(xiàn)他們的方法。為了防御，清華團(tuán)隊(duì)提出了「高階表征引導(dǎo)去噪器」（HGD）方法。為了消除對(duì)抗擾動(dòng)，該方法改進(jìn)了現(xiàn)有的與去噪有關(guān)的防御機(jī)制。HGD 基于這樣的見(jiàn)解：在防御對(duì)抗樣本的過(guò)程中，專(zhuān)注于像素級(jí)的準(zhǔn)確性實(shí)際上可能增加而不是減少失真。HGD 使用高級(jí)特征指導(dǎo)去噪器防御對(duì)抗性攻擊。

結(jié)語(yǔ)：

在近代一直到現(xiàn)代的人工智能工程的研究和探索，無(wú)論是人工智能還是新型合金都具有重大突破，由此可見(jiàn)新材料于我們的日常生活息息相關(guān)，與我們的科技發(fā)展緊密相連，對(duì)未來(lái)的電池行業(yè)發(fā)展、半導(dǎo)體技術(shù)革新帶來(lái)深遠(yuǎn)影響。但是新材料仍然具有很大的探索價(jià)值，對(duì)于每位科學(xué)家來(lái)說(shuō)都有很長(zhǎng)的路去探索。

參考文獻(xiàn)

[1] 杜嚴(yán)勇.人工智能安全問(wèn)題及其解決進(jìn)路[J].哲學(xué)動(dòng)態(tài)，2016（09）：99-104.

[2] 石霖，曹峰.人工智能發(fā)展帶來(lái)的安全問(wèn)題與策略研究[J].電信網(wǎng)技術(shù)，2018（04）：15-17.