• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能背景下“深度偽造”的法律研究

    2021-12-25 17:46:40紀(jì)澤坤
    現(xiàn)代營銷·經(jīng)營版 2021年11期
    關(guān)鍵詞:規(guī)制個人信息深度

    白 碩 紀(jì)澤坤

    (北京物資學(xué)院法學(xué)院 北京 通州 10049)

    在人工智能時代,大量新技術(shù)涌入我們生活中,帶來經(jīng)濟(jì)利益的同時,也伴生許多法律風(fēng)險,傳統(tǒng)的規(guī)制模式亟需更新完善?!吧疃葌卧臁奔夹g(shù)最初主要是應(yīng)用于影視領(lǐng)域制作,后來隨著“ZAO”“去演”等換臉APP的問世,一部手機(jī)、一張照片,點擊“一鍵換臉”就可以替換任意視頻素材中的人臉?!吧疃葌卧臁弊畛R姷膽?yīng)用就是“AI換臉”,大數(shù)據(jù)獲取的基礎(chǔ)上生產(chǎn)高度逼真的合成數(shù)據(jù),如專業(yè)影視、圖像制作,短視頻、動圖社交,此外還可應(yīng)用于語音合成、虛擬偶像、線上試衣等。不可否認(rèn),其在諸多領(lǐng)域都能創(chuàng)造積極的價值。然而,在帶來廣泛應(yīng)用的同時,“深度偽造”技術(shù)的產(chǎn)物同時又具有極大迷惑性,讓人難辨真假。結(jié)合當(dāng)前社交網(wǎng)絡(luò)極其開放流動、國際化的特性,使得大量虛假的信息,以“高度可信”的方式呈現(xiàn)給大眾,所帶來的法律風(fēng)險是不可估量的。有人利用“深度偽造”侵害他人人格權(quán)益的現(xiàn)象愈加頻繁地發(fā)生,其中也涉及到技術(shù)平臺及相關(guān)產(chǎn)物制作者的責(zé)任承擔(dān)法律規(guī)制。新技術(shù)帶來新挑戰(zhàn),給人們敲響了警鐘。

    一、“深度偽造”技術(shù)應(yīng)用的法律風(fēng)險

    由于“深度偽造”和互聯(lián)網(wǎng)的特性,侵權(quán)現(xiàn)象很容易發(fā)生。本文將從民法領(lǐng)域,基于對“ZAO”“去演”等換臉APP平臺協(xié)議和實踐的探究,對“深度偽造”的法律風(fēng)險加以分析。

    (一)對肖像權(quán)、聲音權(quán)、名譽(yù)權(quán)等人格權(quán)侵權(quán)的風(fēng)險

    《民法典》頒布后,明確了構(gòu)成聲音、肖像侵權(quán)的構(gòu)成要件。通過“ZAO”的隱私協(xié)議可以看出,用戶使用換臉功能必須打開相機(jī)、相冊等設(shè)備應(yīng)用訪問權(quán)限,并選擇上傳照片。而選擇過程將會使相冊中其他授權(quán)外的面部信息,暴露在“ZAO”的檢測系統(tǒng)中,其肖像權(quán)侵權(quán)風(fēng)險不言而喻。軟件對照片的識別技術(shù)依然存在疏漏,有些長得像的非本人也能通過真人驗證。此時,“深度偽造”替換樣本的獲取往往并沒有取得相應(yīng)權(quán)屬人的同意,這就給肖像權(quán)侵權(quán)提供了可能。聲音權(quán)侵權(quán)風(fēng)險也是同理。

    (二)在個人信息保護(hù)領(lǐng)域的風(fēng)險

    換臉APP中“深度偽造”技術(shù)的運用,首先要進(jìn)行人臉識別,而人臉數(shù)據(jù)屬于通過生物特征識別技術(shù)獲取的個人生物識別信息?!睹穹ǖ洹返谝磺Я闳臈l規(guī)定,個人生物識別信息屬于個人信息,屬于法律的保護(hù)范圍。這些生物特征一旦被偽造、被濫用,將給權(quán)利人帶來極大的風(fēng)險。對此,筆者認(rèn)為,可以從“深度偽造”技術(shù)運用的動態(tài)過程角度,進(jìn)一步分析潛在的法律風(fēng)險。這一過程不僅涉及人臉信息的采集,還涉及人臉信息的儲存、使用、刪除等,結(jié)合“ZAO”和“去演”APP用戶協(xié)議和隱私條款,可能侵害諸多法益。

    (三)“深度偽造”法律風(fēng)險的特殊性

    曾希望將這項技術(shù)大眾化、普遍化而誕生出的許多換臉APP,最終卻都落得個紅極一時、曇花一現(xiàn)。在觀察“深度偽造”市場化結(jié)果后,筆者發(fā)現(xiàn),“深度偽造”的獨特性在于,一旦廣泛使用,它給我們現(xiàn)在所處的互聯(lián)網(wǎng)大數(shù)據(jù)社會實名認(rèn)證帶來的沖擊將是顛覆性的,故而引發(fā)了社會公眾對著作權(quán)、個人信息、肖像權(quán)、隱私權(quán)等領(lǐng)域保護(hù)的擔(dān)憂。

    二、我國法律規(guī)制的現(xiàn)狀和不足

    盡管我國對于“深度偽造”的風(fēng)險規(guī)制處于初始階段,但是仍然建立起了相對完善的規(guī)制機(jī)制?!睹穹ǖ淙烁駲?quán)編》《個人信息保護(hù)法》《數(shù)據(jù)安全管理辦法》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律法規(guī),均可作為 “深度偽造”的法律規(guī)制依據(jù),在一定程度上可以被既有責(zé)任體系涵蓋。然而,我國對“深度偽造”規(guī)制雖有法可依,但現(xiàn)有規(guī)則是否能夠有效規(guī)制“深度偽造”風(fēng)險還不確定。很多規(guī)制都尚不完善,且存在不足,有如下三點。

    (一)我國目前沒有對“深度偽造”形成專門性立法

    現(xiàn)有規(guī)制往往是從各領(lǐng)域法律條文中尋找依據(jù),相對碎片化。對于規(guī)定了收集個人信息明示同意規(guī)則等生物信息保護(hù)條款的《個人信息安全規(guī)范》,其性質(zhì)屬于國家標(biāo)準(zhǔn),不屬于“法律”,效力較低。缺乏一個整體的、系統(tǒng)的法律規(guī)制機(jī)制來應(yīng)對這樣一種科技創(chuàng)新,且沒有形成一個針對“深度偽造”產(chǎn)品制作者、數(shù)據(jù)平臺、使用者等不同主體相關(guān)權(quán)利、義務(wù)、責(zé)任的完整規(guī)制框架。

    (二)大多數(shù)條文比較抽象

    在法律具體實施上缺乏更為細(xì)致的規(guī)范,且現(xiàn)存收集處理個人生物信息的主體對于信息的控制和保護(hù)能力參差不齊。

    (三)現(xiàn)有規(guī)則更多是一種事后規(guī)制

    例如換臉軟件“ZAO”因為霸王條款、數(shù)據(jù)風(fēng)險等安全問題爆出,相關(guān)監(jiān)管部門才對其進(jìn)行約談要求整改,對于軟件上架之前的審核不完善。不同主體代表著不同利益訴求,法律應(yīng)進(jìn)一步予以調(diào)和、平衡平臺責(zé)任。由于“深度偽造”產(chǎn)品的高度“真實性”,同時還應(yīng)當(dāng)促使相關(guān)“深度偽造”產(chǎn)品甄別技術(shù)標(biāo)準(zhǔn)逐步完善,加強(qiáng)行業(yè)自律,在事前和事中階段加強(qiáng)管理,避免因“深度偽造”形成嚴(yán)重的危害后果。

    三、“深度偽造”風(fēng)險的域外法律規(guī)制比較

    隨著“深度偽造”不斷發(fā)展,相關(guān)換臉應(yīng)用層出不窮,由此引發(fā)的侵權(quán)風(fēng)險逐步加劇,各國也紛紛出臺應(yīng)對措施,處理手段與實踐結(jié)果各有特色。

    (一)美國的相關(guān)法律規(guī)制

    “深度偽造”技術(shù)應(yīng)用最早出現(xiàn)于美國,隨著技術(shù)和應(yīng)用的不斷發(fā)展普及,其所帶來的風(fēng)險和擔(dān)憂也在美國實踐中大量顯現(xiàn)。由此,美國在“深度偽造”的法律規(guī)制方面不得不加快步伐,以遏制這一新技術(shù)造成的不利影響,很早就開始進(jìn)行規(guī)制實踐。

    1.從技術(shù)本身不當(dāng)應(yīng)用角度,對“深度偽造”進(jìn)行的法律規(guī)制

    與中國的分散式規(guī)制不同,美國已經(jīng)有了直接對“深度偽造”本身不當(dāng)應(yīng)用進(jìn)行規(guī)制的相關(guān)措施。2019年6月,美國針對“深度偽造”的風(fēng)險及防范措施召開聽證會。隨后議會提出《2019年深度偽造報告法案》。該法案將概念外延略大于“深度偽造”的“數(shù)字偽造”定義納入到規(guī)制體系中。2019年6月,美國眾議院提出《深度偽造責(zé)任法案》,該法案明確了“深度偽造”不當(dāng)使用行為的法律責(zé)任,要求“深度偽造”技術(shù)產(chǎn)物制作者,必須以水印或文本標(biāo)注等形式表明文件的“偽造”屬性及“偽造”程度,進(jìn)行信息披露,以實現(xiàn)與真實視頻的區(qū)分,否則將根據(jù)所造成的侵權(quán)后果受到相關(guān)責(zé)任追究。

    2.從傳統(tǒng)個人信息保護(hù)角度,對“深度偽造”進(jìn)行的法律規(guī)制

    “深度偽造”實際上是對生物識別數(shù)據(jù)進(jìn)行“偽造”,因此,通過對“生物識別數(shù)據(jù)”的保護(hù),實現(xiàn)抑制“深度偽造”不當(dāng)使用帶來的負(fù)面效應(yīng),也是一種可行的路徑。早在“深度偽造”技術(shù)廣泛應(yīng)用之前,就有了關(guān)于“個人信息保護(hù)”的相關(guān)法律規(guī)制,大致如下:2009年,得克薩斯州《生物識別信息獲取使用法》,按照信息收集、使用階段過程進(jìn)行規(guī)制;2017年,加利福尼亞州《加州生物信息隱私法案》進(jìn)一步具體化,規(guī)定了收集階段的知情授權(quán)原則;2019年,佛羅里達(dá)州《生物識別信息隱私法案》細(xì)化了信息使用和保管階段的規(guī)則;華盛頓州《華盛頓隱私法案》明確了數(shù)據(jù)權(quán)利主體對于個人信息的各項權(quán)利,如訪問權(quán)、更正權(quán)、刪除權(quán)等;2019年3月,美國聯(lián)邦人臉識別隱私保護(hù)第一部法案《2019年商業(yè)人臉識別隱私法案》還增加了投入市場應(yīng)用需第三方測試,人臉識別運營商“數(shù)據(jù)安全性、最小化、留存”等規(guī)定;2019年4月,美國聯(lián)邦《隱私權(quán)利法案》也從個人權(quán)利角度作出回應(yīng)。

    (二)歐盟的相關(guān)法律規(guī)制

    與中國、美國的“深度偽造”法律規(guī)制形成鮮明對比的是,歐盟主要是通過對個人信息的嚴(yán)格保護(hù)和虛假信息治理兩個方面限制“深度偽造”技術(shù)的應(yīng)用。

    1.通過嚴(yán)格個人信息保護(hù)對“深度偽造”進(jìn)行的法律規(guī)制

    歐盟非常注重個人信息保護(hù),相關(guān)規(guī)制體系的建立已趨于成熟,并配套有對應(yīng)的網(wǎng)絡(luò)音視頻服務(wù)商信息利用標(biāo)準(zhǔn),嚴(yán)格的信息收集者、處理者、控制者、運營者責(zé)任義務(wù)規(guī)定,以及個人信息泄漏后的救濟(jì)措施。2018年歐盟正式實施的《通用數(shù)據(jù)保護(hù)條例(GDPR)》就有所體現(xiàn)。此外還規(guī)定了可能被用于制作深度偽造內(nèi)容的人臉圖像屬于“生物特征數(shù)據(jù)”,對于這類具有隱私特征的特定個人信息也應(yīng)予以特殊保護(hù)。如收集目的按約合法,非經(jīng)同意不得處理,將換臉軟件納入了規(guī)制。在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點。

    2.通過嚴(yán)厲打擊虛假信息對“深度偽造”進(jìn)行的法律規(guī)制

    “深度偽造”與虛假信息相似,均是偽造不真實信息,并試圖操縱信息以獲得利益或造成損害,因此可以將其歸到已有的關(guān)于虛假信息的規(guī)制框架中進(jìn)行處理。2018年4月末,歐盟委員會《應(yīng)對線上虛假信息:歐洲方案》提出各利害關(guān)系主體合作,建立評估審核機(jī)制,改進(jìn)信息來源,提高信息生產(chǎn)、傳播過程中的透明度,提高信息的可信度,以實現(xiàn)全面防范視頻、圖像和文字等虛假信息。2018年9月末,歐洲主要網(wǎng)絡(luò)服務(wù)商提出的《反虛假信息行為準(zhǔn)則》提倡平臺自律監(jiān)管,自覺限制、治理“深度偽造”違法內(nèi)容。

    (三)域外法律規(guī)制經(jīng)驗分析

    根據(jù)美國及歐盟的規(guī)制經(jīng)驗,并結(jié)合我國現(xiàn)有法律規(guī)制的不足,應(yīng)做出相應(yīng)借鑒和改進(jìn),明確相關(guān)主體的權(quán)利、義務(wù)及法律責(zé)任,完善侵權(quán)救濟(jì)渠道,同時推動辨別技術(shù)發(fā)展和機(jī)構(gòu)監(jiān)管,建立有效的針對“深度偽造”技術(shù)應(yīng)用風(fēng)險的法律規(guī)制路徑。

    四、“深度偽造”技術(shù)應(yīng)用的法律對策及建議

    由于“深度偽造”自動對抗式的技術(shù)邏輯,受害人可以依據(jù)《民法典》人格權(quán)編的相關(guān)規(guī)定維護(hù)自己的合法權(quán)益。我國民法領(lǐng)域“深度偽造”技術(shù)應(yīng)用的法律規(guī)制,還需結(jié)合我國國情以及社會經(jīng)濟(jì)發(fā)展?fàn)顩r進(jìn)行完善。

    (一)統(tǒng)一規(guī)范平臺在信息保護(hù)動態(tài)過程中的義務(wù)標(biāo)準(zhǔn)

    結(jié)合相關(guān)法律規(guī)定,“深度偽造”技術(shù)平臺主體目前應(yīng)根據(jù)法律義務(wù),履行更嚴(yán)格的收集使用說明義務(wù),在信息權(quán)利人完全知情的條件下取得其授權(quán)同意。

    采集的人臉識別信息僅在有限時間、為特定目的使用。為保障個人信息數(shù)據(jù)安全,在權(quán)利人收回授權(quán)或要求刪除、注銷后,應(yīng)立即刪除所有獲得的數(shù)據(jù)和個人信息。若“深度偽造”平臺違反上述義務(wù),則可能在個人信息的采集、使用、儲存、階段發(fā)生侵權(quán)行為。此外,由于“深度偽造”風(fēng)險的特殊性,平臺也應(yīng)自覺主動加強(qiáng)行業(yè)自查并接受政府監(jiān)管,事前報備,事中定期報告及時反饋,事后積極配合補(bǔ)救。

    (二)平臺侵權(quán)責(zé)任歸責(zé)原則的適用

    盡管平臺在“深度偽造”信息管理過程中承擔(dān)較多義務(wù),但也并不是無限制的。要認(rèn)定其最終構(gòu)成侵權(quán),還需要具有“主觀過錯”。在訴訟證明責(zé)任上,筆者認(rèn)為適用“過錯推定”的歸責(zé)原則更為合適,平衡個人權(quán)利和技術(shù)推廣。相比個人信息權(quán)利人,信息處理者即平臺顯然占有更加有利的地位。其掌管信息數(shù)據(jù)并在后臺進(jìn)行“深度偽造”技術(shù)運行,擁有更強(qiáng)的能力和便利條件,并可以更低的成本證明其行為與信息損害后果之間有無因果關(guān)系,倘若無法證明則可推定事實上的因果關(guān)系成立?!吧疃葌卧臁逼脚_是風(fēng)險的帶來者。

    (三)明確技術(shù)產(chǎn)物制作者主動標(biāo)識義務(wù)

    “深度偽造”技術(shù)產(chǎn)物制作者作為行為和傳播源頭,有必要對其提出相應(yīng)規(guī)制。控制住制作者這一源頭,將極大地減小對于后面環(huán)節(jié)法律監(jiān)管的壓力。其基本義務(wù)就是要在換臉視頻顯要位置明確與普通視頻的區(qū)分,并標(biāo)注視頻來源、原作品相關(guān)信息、有無授權(quán)等。在上傳網(wǎng)絡(luò)及平臺進(jìn)行傳播時,也應(yīng)再次作出清晰的聲明,告知平臺和平臺用戶其“深度偽造”性質(zhì)。如果制作者違反主動標(biāo)識義務(wù),則要承擔(dān)過錯侵權(quán)責(zé)任。

    (四)強(qiáng)化技術(shù)平臺審查責(zé)任

    在當(dāng)前信息時代,平臺為信息傳播提供途徑和載體。如前所述,公民僅為個人學(xué)習(xí)欣賞研究制作“深度偽造”視頻并不會構(gòu)成侵權(quán),而一旦上傳至網(wǎng)絡(luò)平臺進(jìn)行傳播,則使其具備了違法可能性。此時,平臺作為一個重要的中間媒介,具有一定的審查責(zé)任,防止虛假信息在社會公眾中大量擴(kuò)散,造成信息混亂、侵權(quán)亂象和社會信任危機(jī)。但是,由于現(xiàn)階段尚沒有能成熟完備識別篩選“深度偽造”產(chǎn)物的技術(shù),不應(yīng)給平臺設(shè)定過重的義務(wù)要求。具體而言,可以根據(jù)《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《民法典》《個人信息保護(hù)法》及《電子商務(wù)法》等相關(guān)規(guī)定,適用“避風(fēng)港”原則,即適用處理侵權(quán)糾紛的“通知與刪除”程序。平臺只要履行了一定義務(wù)即可被認(rèn)為履行了審查責(zé)任。若怠于履行上述義務(wù),造成相應(yīng)后果,則需要承擔(dān)連帶責(zé)任。在“深度偽造”技術(shù)產(chǎn)物的制作和傳播過程中,起最主要作用的就是制作者和平臺。因此,為防止“深度偽造”技術(shù)的濫用,必須從不同主體權(quán)利義務(wù)規(guī)制角度,建立事前預(yù)防和事后救濟(jì)相結(jié)合的法律規(guī)制框架,有效降低法律風(fēng)險的發(fā)生。

    (五)加強(qiáng)有關(guān)部門互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估工作

    目前,我國主要負(fù)責(zé)“深度偽造”技術(shù)應(yīng)用安全評估的監(jiān)管部門是網(wǎng)信辦及公安機(jī)關(guān)。這些部門應(yīng)依據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)作出相應(yīng)對策,不斷建立健全事前、事中及事后的監(jiān)督體系。在事前做好規(guī)定,要求“深度偽造”互聯(lián)網(wǎng)平臺及時實行自我監(jiān)督,定期評估,并向有關(guān)部門備案報告,有關(guān)部門也要及時作出回應(yīng),必要時應(yīng)依據(jù)職責(zé)開展現(xiàn)場檢查。在事件中相關(guān)部門應(yīng)開展定期和不定期的巡查工作,把監(jiān)管落到實處,嚴(yán)格規(guī)范制度和程序。在事后及時采取有效整改措施,予以補(bǔ)救和懲戒,與社會各界共同維護(hù)網(wǎng)絡(luò)傳播秩序,營造良好網(wǎng)絡(luò)生態(tài)。

    結(jié)束語:

    隨著人工智能的不斷發(fā)展,“深度偽造”技術(shù)將“換臉”“換聲”等變成了可能,不可避免地引發(fā)了一系列關(guān)于人格權(quán)保護(hù)方面的法律風(fēng)險問題。從人格權(quán)保護(hù)角度,根據(jù)不同責(zé)任主體義務(wù)分析了法律規(guī)制的方向和路徑,旨在構(gòu)建一個較為完善、層次分明的法律規(guī)制體系,將零散的法律法規(guī)進(jìn)行整合,填補(bǔ)法律漏洞和空白。但是,對于“深度偽造”帶來的風(fēng)險,除了要在法律層面予以完善,還應(yīng)在技術(shù)及公眾意識層面不斷加強(qiáng),才能形成社會合力,有效避免侵權(quán)現(xiàn)象出現(xiàn),在個人權(quán)利得到保障的前提下實現(xiàn)技術(shù)進(jìn)步。

    猜你喜歡
    規(guī)制個人信息深度
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    主動退市規(guī)制的德國經(jīng)驗與啟示
    深度理解一元一次方程
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    深度觀察
    深度觀察
    深度觀察
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    論《反不正當(dāng)競爭法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    杭锦后旗| 临朐县| 绥江县| 揭西县| 遂溪县| 双柏县| 繁昌县| 岳阳市| 万山特区| 呼伦贝尔市| 泸定县| 本溪| 琼海市| 越西县| 安国市| 琼结县| 邢台市| 尤溪县| 郴州市| 石首市| 遂川县| 黄石市| 太仓市| 新建县| 南宁市| 蒙城县| 茌平县| 洪泽县| 仙游县| 松溪县| 闽侯县| 漳浦县| 丽水市| 铜山县| 杭锦后旗| 龙口市| 周宁县| 吉林省| 司法| 礼泉县| 鲁山县|