人工智能安全問題及其解決思路

閆 翔

（西北大學(xué)信息科學(xué)與技術(shù)學(xué)院，陜西 西安 710000）

在二十世紀(jì)，人工智能技術(shù)有著質(zhì)的飛越，取得了突破性的進展。而近年來人工智能技術(shù)在仍舊在不斷的前進著，而應(yīng)用人工智能應(yīng)用的行業(yè)也隨著人工智能的問世以及發(fā)展在不斷的增多，比如軍事行業(yè)、服務(wù)行業(yè)、駕駛行業(yè)等，而隨著人工智能在這些行業(yè)的應(yīng)用，各種各樣的安全問題也不斷的出現(xiàn)并增加，這對人工智能的發(fā)展有著重要的阻礙作用，甚至影響了人工智能前進的步伐。同樣隨著人工智能算法和應(yīng)用場景的不斷完善，加之人工智能訓(xùn)練水平的提升，人們已經(jīng)享受到人工智能帶來的種種便利，減輕了人類重復(fù)性的工作，人工智能已有大規(guī)模替代人類勞動的趨勢。若對人工智能的發(fā)展不加以控制，勢必會帶來無法想象的安全問題。

1 人工智能安全問題的重要意義

人工智能，不難理解，其含義就是人工與智能的結(jié)合體，人工就是人力所制造、所創(chuàng)造的。而智能就是靠先進的技術(shù)比如計算機等這些技術(shù)來與人工相結(jié)合。人工智能一定意義上講它是計算機的一個分支，而人工智能所應(yīng)用的領(lǐng)域也特別的廣泛，比如機器人的研究、圖像和人物的識別、語言的識別等。人工智能從問世走到現(xiàn)在，所面臨的問題也是很多的，其中人工智能的安全問題就是很重要的問題之一[1]。首先，人類應(yīng)用人工智能是否是一直的，也就是人們平時所擔(dān)心的人工智能是否會超過人類在這個社會上的主體地位這個問題。人工智能應(yīng)用的出發(fā)點是為人類所應(yīng)用，使用的過程必須受到人類的控制，必須防止其野蠻發(fā)展，更不能被別有用心的人利用。這是保障人工智能安全問題很重要的一個方面。其次，如果不處理好人工智能的安全問題，人工智能有可能會對人類或者領(lǐng)域產(chǎn)生危害，影響人類以及相關(guān)領(lǐng)域的發(fā)展。最后，人工智能的安全問題也影響著人工智能本身的發(fā)展，安全問題，從始至終都是各行各業(yè)必須重視的問題之一，而人工智能行業(yè)的發(fā)展也離不開人工智能安全問題的妥善處理。

2 人工智能安全問題的現(xiàn)狀

2.1 人工智能網(wǎng)絡(luò)安全問題

眾所周知，很多行業(yè)在應(yīng)用人工智能這項技術(shù)以及相關(guān)的知識的時候都是依附于計算機網(wǎng)絡(luò)來進行的，而計算機網(wǎng)絡(luò)這個行業(yè)是錯綜復(fù)雜的，很多計算機網(wǎng)絡(luò)的安全問題也是目前我國面臨的很嚴重的問題之一，相應(yīng)的人工智能的網(wǎng)絡(luò)安全問題也是還存在問題的，比如機器人在為人類服務(wù)的過程中，操作系統(tǒng)可能遭到黑客的控制，機器人的管理權(quán)限被黑客拿到，使機器人任由黑客擺布；亦或突然源代碼遭受到攻擊，人工智能的信息基本通過網(wǎng)絡(luò)進行傳輸，在此過程中，信息有可能遇到黑客的篡改和控制，這就會導(dǎo)致機器人產(chǎn)生違背主人命令的行為，會有給主人造成安全問題的可能性[2]。不僅如此，在人工智能的發(fā)展過程中，大量的人工智能訓(xùn)練師需要對現(xiàn)有的人類大數(shù)據(jù)進行分析和統(tǒng)計，如何防止信息的泄漏和保護個人信息的隱私也是人工智能領(lǐng)域需要關(guān)注的問題。

2.2 人工智能應(yīng)用范圍限定的問題

對一些發(fā)展不成熟、會有引起安全問題的可能性的領(lǐng)域以及技術(shù)的應(yīng)用范圍給出一定的限定，這是保障人類與社會和諧發(fā)展的一種手段，也是不能或缺的一個步驟。目前，人工智能的發(fā)展也是如此的，這也是人工智能目前安全問題所面臨的問題之一[3]。目前各行各業(yè)都有人工智能的應(yīng)用，比如無人駕駛、各類機器人等，很多行業(yè)都會看到人工智能的存在，小到購物APP中的客服機器人，大到國際比賽中機器人的應(yīng)用，在許多危險的領(lǐng)域，如核電、爆破等危及人類生命安全的場景，發(fā)揮了至關(guān)重要的作用。這些領(lǐng)域的應(yīng)用如果應(yīng)用的成功那沒什么問題，一旦出現(xiàn)問題就會產(chǎn)生很嚴重的安全性問題。對于人工智能應(yīng)用的范圍，目前并沒有給出明確的界定，也沒有明確的法律依據(jù)，這就需要相關(guān)組織和機構(gòu)，盡快對人工智能的適用場景進行梳理，加快人工智能標(biāo)準(zhǔn)和法律的建設(shè)步伐，防止一些不法分子，利用法律漏洞將人工智能運用到非法的范圍中，造成全人類不可估量的損失。

2.3 人工智能本身的安全標(biāo)準(zhǔn)

人工智能的產(chǎn)生以及應(yīng)用的本身目的并不是為了趕超人類或者達到人類的智力水平，它本身存在的價值是服務(wù)于人類，可以成為人類生活的更好的一種工具，人類需要對其有著一定的控制的能力。但是近幾年來，很多人工智能的存在是為了與人類的智力水平以及人類為標(biāo)準(zhǔn)，忽略了部分人類倫理的問題，甚至涉及到部分人權(quán)問題，這就偏離了人工智能本身存在的目的，而這種的偏離會產(chǎn)生一定的安全問題，從而影響人工智能的發(fā)展。所以人們應(yīng)對機器人的道德和行為判斷力進行判定，確保其在人類的道德倫理范圍中，避免人工智能產(chǎn)物做出危害人類安全的行為。人類必須對人工智能的行為進行嚴格的監(jiān)管，也要大力發(fā)展人工智能自身的倫理監(jiān)督機制，使其為人類所用。

3 解決人工智能安全問題的措施

人工智能還處在高速發(fā)展期，各方面還未完全成熟，人工智能的安全性問題成為了其發(fā)展道路上的絆腳石。解決人工智能安全問題對人工智能的發(fā)展有著很重要的作用，我們可以采取一定的措施來防止人工智能安全問題的產(chǎn)生。既對人工智能的安全隱患進行排除，又對人工智能的運行進行管理和監(jiān)督。

首先，網(wǎng)絡(luò)安全已成為人工智能安全的首要攔路虎，解決好網(wǎng)絡(luò)安全的問題，讓人工智能的研發(fā)工作、實驗工作已經(jīng)實施的工作可以在一個安全、穩(wěn)定的網(wǎng)絡(luò)環(huán)境中來進行。網(wǎng)絡(luò)安全講求人、物、策略的三合一，不僅要做好物理層面網(wǎng)絡(luò)安全的防護，還需要加強對網(wǎng)絡(luò)管理、維護人員隊伍的管理，還要對網(wǎng)絡(luò)的管理策略進行可持續(xù)的優(yōu)化。定期對網(wǎng)絡(luò)安全進行隱患排查和漏洞修補，加強網(wǎng)絡(luò)安全常規(guī)化的管理，通過建立完整的網(wǎng)絡(luò)安全制度，并建立人工智能網(wǎng)絡(luò)安全體系等這些措施來完成。善于運用各類的技術(shù)手段，從硬件防火墻、IPS、IDS等進行網(wǎng)絡(luò)安全的加固，通過各類網(wǎng)管和EDR等軟件加強系統(tǒng)補丁、漏洞的管理，定期對端口策略、底層防御策略進行調(diào)整，對網(wǎng)絡(luò)安全進行閉環(huán)式的持續(xù)性優(yōu)化。

其次，人工智能是很專門的一個問題，各個領(lǐng)域都有研究人工智能的權(quán)利也有應(yīng)用人工智能的權(quán)利。但相關(guān)人員要研究人工智能的時候一定要向相關(guān)部門進行報告，取得必要的證明以及許可，確保這項工作的安全性，然后在進行相應(yīng)的工作。人工智能的應(yīng)用和發(fā)展必須遵循社會發(fā)展的規(guī)律，以維護社會公共安全和穩(wěn)定為先決條件，避免因此而產(chǎn)生不良影響。人工智能因為運算速度、運算能力和標(biāo)準(zhǔn)化程度優(yōu)于人類，在圍棋、象棋等體育競技類項目中能力能超出人類，可以幫助人類運動成績的提升，但同時也要防止其運用到競技類的作弊過程中，有礙比賽的公平和公正。

最后，人工智能安全評估與管理工作，這也是保障人工智能安全問題很重要的工作之一。近幾年來，人工智能的發(fā)展在不斷的進步，因此，評估人工智能安全也是對將來可能產(chǎn)生危害及這種危害的程度的一種預(yù)測，相關(guān)的研究要不斷的加強這種評估的技術(shù)，并嚴謹?shù)耐瓿稍u估的工作[4]。尤其要加強人工智能算法和程序的測試，確保其在應(yīng)用過程中不會對人類的人身安全產(chǎn)生影響。根據(jù)安全的測試數(shù)據(jù)，構(gòu)建人工智能產(chǎn)品的評估模型和模擬機制，通過概率統(tǒng)計學(xué)對可能發(fā)生的危險行為進行預(yù)測并做好相關(guān)危害發(fā)生時的應(yīng)急預(yù)案。加快人工智能訓(xùn)練師和維護人員的隊伍建設(shè)，從源頭和使用過程中對人工智能的安全進行管理和監(jiān)督，最大程度的降低危害事故的發(fā)生。針對人工智能公共安全領(lǐng)域的事故要做到零容忍，做到對信息處理和智能化全過程的安全督察。人工智能行業(yè)協(xié)會需統(tǒng)籌各地和各企業(yè)之間行業(yè)標(biāo)準(zhǔn)的建立，真正做到人工智能安全標(biāo)準(zhǔn)的統(tǒng)一，讓整個行業(yè)有據(jù)可依、依標(biāo)辦事。

4 結(jié)束語

人工智能的應(yīng)用是目前我國各行業(yè)各發(fā)展的一個大形勢，而同樣的，人工智能的發(fā)展也是目前我國智能化發(fā)展的一個前提，因此人工智能的發(fā)展對我國有著很重要的作用。而人工智能安全問題作為人工智能發(fā)展重要的問題之一是不能忽略的一個問題，因此認識到人工智能所面臨的安全問題并將這些問題研究出良好的對策可以對我國人工智能的發(fā)展有著很重要的作用。