• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    深度偽造技術(shù)正在顛覆網(wǎng)絡(luò)空間的可信性

    2020-09-22 08:59:21魏書音劉玉琢
    中國計算機(jī)報 2020年34期
    關(guān)鍵詞:深度軟件

    魏書音 劉玉琢

    數(shù)據(jù)顯示,當(dāng)前,我國網(wǎng)絡(luò)視頻用戶規(guī)模達(dá) 8.5 億,占到網(wǎng)民的 94.1%。網(wǎng)絡(luò)視頻應(yīng)用在快速普及的過程中也帶火了“人工智能+人臉識別”類軟件,比如 ZAO、Deepfacelab 等。此類軟件所使用的深度偽造技術(shù)在帶來娛樂的同時,可能引發(fā)的安全風(fēng)險也備受關(guān)注。如果通過深度偽造技術(shù)制作造假新聞和色情視頻等違法信息,必將造成“眼見不一定為實”的普遍不信任感,進(jìn)而會對國家安全、政治安全和個人合法權(quán)益造成威脅。

    深度偽造技術(shù)特征

    深度偽造是一種基于人工智能的人體圖像合成技術(shù)。深度偽造技術(shù)的興起是人工智能發(fā)展到一定階段的產(chǎn)物,源于人工智能系統(tǒng)生成對抗網(wǎng)絡(luò)(GAN)的進(jìn)步。GAN 由生成器和識別器兩個相互競爭的系統(tǒng)組成。建立 GAN 的第一步是識別所需的輸出,并為生成器創(chuàng)建一個培訓(xùn)數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內(nèi)容,就可以將視頻剪輯提供給識別器進(jìn)行鑒別;如果鑒別出視頻是假的,就會告訴生成器在創(chuàng)建下一個視頻時需要修正的地方。根據(jù)每次的“對抗”結(jié)果,生成器會調(diào)整其制作時使用到的參數(shù),直到鑒別器無法辨別生成作品和真跡,以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上生成深度偽造視頻。

    深度偽造視頻難以鑒別。目前,還沒有鑒別深度偽造視頻的商業(yè)工具。隨著生成器越來越擅長創(chuàng)建假視頻剪輯,鑒別器也越來越擅長識別它們。相反,隨著鑒別器在識別假視頻方面做得越來越好,生成器在創(chuàng)建假視頻方面也做得越來越好。理論上,只要給 GAN 當(dāng)前掌握的所有鑒證技術(shù),它就能通過學(xué)習(xí)進(jìn)行自我進(jìn)化,規(guī)避鑒證監(jiān)測。攻擊會被防御反擊,反過來又被更復(fù)雜的攻擊所抵消。鑒別技術(shù)只可能暫時領(lǐng)先,深度偽造視頻創(chuàng)造者很快就能趕上最新的檢測技術(shù)。未來,生成假視頻和檢測假視頻將持續(xù)進(jìn)行“道高一尺、魔高一丈”的反復(fù)博弈。

    深度偽造軟件價廉且易操作,廣受用戶歡迎。在深度偽造出現(xiàn)前,視頻換臉技術(shù)最早應(yīng)用于電影領(lǐng)域,獲得的技術(shù)和資金成本較大。2017 年以來,該技術(shù)在“GitHub”的開源軟件涌現(xiàn),開發(fā)技術(shù)很容易被獲取,能被不具備專業(yè)知識的普通人利用并輕易制作。制造視頻并不需要很高的技巧,機(jī)器學(xué)習(xí)算法與面部映射軟件相結(jié)合,偽造內(nèi)容來劫持一個人的聲音、面孔和身體等身份信息變得廉價而容易,普通大眾一鍵便可制造想要的視頻。

    深度偽造技術(shù)濫用帶來的

    安全風(fēng)險

    威脅國家安全和政治安全。深度偽造技術(shù)被運用在政治領(lǐng)域,可成為損毀國家形象、挑撥內(nèi)部矛盾的武器。一是通過偽造國家領(lǐng)導(dǎo)人的圖片、視頻,詆毀國家形象、制造內(nèi)部矛盾。二是通過攔截篡改相關(guān)事件的新聞報道,傳播虛假信息,削弱對國家機(jī)構(gòu)和官方新聞媒體的公信力,擾亂政治秩序。三是深度偽造技術(shù)已經(jīng)濫用于情報工作。美聯(lián)社報道稱,一名間諜使用 AI 生成的個人資料和圖片在全球著名的職場社交平臺 LinkedIn 上欺騙聯(lián)系人,包括政治專家和政府內(nèi)部人士。此外,還可能影響選舉活動,比如在選舉前故意傳播虛假信息,誹謗選舉人,進(jìn)而影響選舉的公正性。

    侵犯個人肖像權(quán)、名譽(yù)權(quán)等合法權(quán)益。深度偽造技術(shù)最初被應(yīng)用于色情行業(yè)。2017 年 12 月,一個名為“DeepFakes”的用戶在 Reddit 網(wǎng)站發(fā)布“假視頻”,將成人色情電影中演員的臉替換成了知名女演員的臉,畫面以假亂真。2019 年出現(xiàn)的一鍵生成裸照軟件 DeepNude,只要輸入一張完整的女性圖片就可自動生成相應(yīng)的裸照。受害者通常沒有追索權(quán),而且照片上傳之后很難刪除。這一技術(shù)會損害當(dāng)事人聲譽(yù),甚至毀掉其職業(yè)生涯。對此,美國弗吉尼亞州已將利用深度偽造、photoshop 或其他工具制作的虛假照片、視頻納入管理范疇。

    帶來個人信息安全風(fēng)險。深度偽造軟件收集的用戶照片,以及眨眼、搖頭等動態(tài)行為信息,都是用戶不可更改的敏感信息,一旦被非法使用,后果不堪設(shè)想。同時,被用作生物識別身份的語音也非常容易被模仿者欺騙。2019 年 3 月,網(wǎng)絡(luò)犯罪分子利用一款基于 AI 的軟件模仿了一家德國母公司首席執(zhí)行官的聲音,欺騙該公司旗下一家英國能源公司的經(jīng)理向詐騙者控制的銀行賬戶轉(zhuǎn)款 24.3 萬美元。

    幾點思考

    開展深度偽造技術(shù)安全風(fēng)險評估。美國高度重視深度偽造技術(shù)的應(yīng)用問題,兩黨議員分別在眾、參兩院同時提出《2019 年深度偽造報告法案》(Deepfakes Report Act of 2019),要求評估深度偽造技術(shù)的安全風(fēng)險。2019 年 6 月 13 日,美國眾議院情報委員會為此專門召開聽證會,公開討論深度偽造技術(shù)給國家、社會和個人帶來的風(fēng)險及防范措施。我國也應(yīng)將深度偽造技術(shù)納入新技術(shù)新應(yīng)用的安全風(fēng)險評估中,充分評估該技術(shù)目前的發(fā)展?fàn)顩r、適用領(lǐng)域和范圍,未來發(fā)展方向和應(yīng)用趨勢,以及對國家安全和政治安全的影響、對公民個人權(quán)益的損害等。

    制定與深度偽造技術(shù)有關(guān)的規(guī)范標(biāo)準(zhǔn)。近年來,美國陸續(xù)出臺《2018 年惡意偽造禁令法案》和《深度偽造責(zé)任法案》,主張對深度偽造技術(shù)進(jìn)行嚴(yán)格限制。建議我國相關(guān)部門盡快制修訂相關(guān)技術(shù)標(biāo)準(zhǔn),明確深度偽造技術(shù)的適用范圍,涉及國家安全、公共利益和公民合法權(quán)益的,要對其適用性進(jìn)行明確限制,尤其是對深度偽造視頻的傳播應(yīng)嚴(yán)格限制,如傳播需用水印等進(jìn)行標(biāo)明。將偽造視頻納入違法和不良信息規(guī)制范圍,嚴(yán)禁違法有害信息的傳播;對深度偽造軟件收集使用信息的行為進(jìn)行評估,加強(qiáng)對人臉等生物識別信息的保護(hù);明確互聯(lián)網(wǎng)平臺和偽造視頻者的責(zé)任,督促互聯(lián)網(wǎng)平臺利用自身技術(shù)優(yōu)勢,加強(qiáng)對違規(guī)違法行為的管理。

    強(qiáng)化對深度偽造鑒別技術(shù)的研發(fā)。美國國防高級研究計劃局(DARPA)設(shè)立“媒體鑒證”項目,開發(fā)能夠識別深度偽造視頻的工具。2019 年 9 月, Facebook 投入 1000 萬美元,與微軟、Partnership on AI 以及多所大學(xué)共同發(fā)起深度偽造檢測挑戰(zhàn)賽,激勵和促進(jìn)檢測研究。我國相關(guān)部門在加強(qiáng)管理的同時,應(yīng)大力促進(jìn)第三方檢測機(jī)構(gòu)開展深度偽造監(jiān)測鑒別業(yè)務(wù),鼓勵企業(yè)加大對鑒別技術(shù)研發(fā)的投入;利用區(qū)塊鏈、電子認(rèn)證簽名等技術(shù),開發(fā)相關(guān)鑒別工具。

    猜你喜歡
    深度軟件
    禪宗軟件
    英語文摘(2021年10期)2021-11-22 08:02:26
    深度理解一元一次方程
    軟件對對碰
    巧用立創(chuàng)EDA軟件和Altium Designer軟件設(shè)計電路
    電子制作(2019年24期)2019-02-23 13:22:20
    深度觀察
    深度觀察
    深度觀察
    深度觀察
    即時通訊軟件WhatsApp
    CHIP新電腦(2015年10期)2015-10-15 18:03:55
    提升深度報道量與質(zhì)
    新聞傳播(2015年10期)2015-07-18 11:05:40
    巧家县| 仁布县| 千阳县| 封丘县| 永宁县| 泰来县| 潼南县| 临桂县| 恭城| 安龙县| 密云县| 城固县| 崇信县| 文水县| 文化| 宝鸡市| 桃园市| 昭觉县| 涡阳县| 屏山县| 邛崃市| 纳雍县| 商丘市| 台东县| 论坛| 启东市| 合阳县| 乌审旗| 新巴尔虎右旗| 平江县| 莱芜市| 锡林郭勒盟| 滨海县| 炉霍县| 汤阴县| 星座| 梅河口市| 桃园县| 奉节县| 高台县| 香港 |