• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能的法律倫理建構(gòu)

    2019-03-05 23:35:43
    江西社會科學(xué) 2019年2期
    關(guān)鍵詞:倫理人工智能法律

    在第三次人工智能發(fā)展的浪潮中,以大數(shù)據(jù)為依托的人工智能因其深度學(xué)習(xí)和強化學(xué)習(xí)能力的提升不斷沖擊著人們的想象空間,也開始深刻地影響人類現(xiàn)實生活。我們需要在構(gòu)建人工智能法律規(guī)則時考慮如何實現(xiàn)算法的透明性和可解釋性、算法的正義問題,以及是否應(yīng)給予人工智能系統(tǒng)以獨立的法律地位及其對個人隱私、自由尊嚴(yán)等的影響。從人工智能法律規(guī)制整體建構(gòu)的角度來看,應(yīng)從立法、司法裁判和法律效果評價環(huán)節(jié)嵌入倫理性考量因素,將具體的道德考量因素轉(zhuǎn)化為可以實施的法律原則乃至法律規(guī)制,同時發(fā)揮人在司法裁判過程中的主觀能動性,防止過度依賴人工智能輔助系統(tǒng),從而保障司法裁判結(jié)果的公平公正。

    作為一個專業(yè)術(shù)語,“人工智能”可以追溯到20世紀(jì)50年代。美國計算機(jī)科學(xué)家約翰·麥卡錫及其同事在1956年的達(dá)特茅斯會議提出“讓機(jī)器達(dá)到這樣的行為,即與人類做同樣的行為”被稱為人工智能。[1](P4)不同于以往的其他技術(shù),人工智能由于其特有的深度學(xué)習(xí)①能力,“技術(shù)樂觀派”認(rèn)為 “未來的超級人工智能可能與人類智慧媲美甚至超越人類智慧,擁有與人類相同的價值觀”。同時,“技術(shù)懷疑主義者”堅信“建造超人類水平的通用人工智能實在太困難了,沒有幾百年的時間,根本無法實現(xiàn),擔(dān)心人工智能的崛起,就好像擔(dān)心火星出現(xiàn)人口過剩一樣”[2](P41)。我們無意去做技術(shù)發(fā)展進(jìn)程中的“盧德分子”②,因為無論人工智能未來發(fā)展的進(jìn)程如何,可以肯定的是技術(shù)賦予了生命一種進(jìn)化的力量,讓我們?nèi)ッ鎸夹g(shù)進(jìn)步帶來的一次次驚喜與考驗。

    具有道德和倫理意識是我們?nèi)祟悈^(qū)別于其他生命體的特征之一,人工智能目前乃至未來是否具有自我意識,我們尚不可知。人類在面對人工智能帶來的各種挑戰(zhàn)時,連最基本的何為“智能”的概念都無法達(dá)成共識。但是,當(dāng)我們面對人工智能技術(shù)的迅猛發(fā)展,例如“電車難題”③這樣的倫理問題在以技術(shù)為驅(qū)動的無人駕駛汽車領(lǐng)域成為程序設(shè)計者們不得不面對的倫理拷問。當(dāng)我們?nèi)祟惷鎸@樣的倫理難題無所適從時,如何在算法中嵌入我們認(rèn)為普適的人類價值觀,從而引導(dǎo)人工智能作出符合人類法律倫理準(zhǔn)則的決策。除此之外,算法引發(fā)的種族和性別歧視、算法殺熟等問題如何解決都是需要我們直面的法律和倫理困境。現(xiàn)有的法律體系和法律框架可以解決由人工智能引發(fā)的部分法律難題,例如自動駕駛引發(fā)的責(zé)任分配等問題可以在現(xiàn)有的侵權(quán)法和產(chǎn)品責(zé)任法框架內(nèi)找到部分答案;人工智能創(chuàng)作物是否可以受到法律的保護(hù),依賴著作權(quán)法的法律路徑可以部分得以解答。但是,人工智能技術(shù)對現(xiàn)有法律體系的沖擊引發(fā)的最棘手的問題是法律倫理的考量,當(dāng)理性的法律面對需要拷問人性本真的道德和倫理時,如何在現(xiàn)有的法律框架中進(jìn)行適時的調(diào)整,是本文待解之題。

    一、人工智能面臨的法律倫理難題

    人工智能因其自主性和學(xué)習(xí)能力帶來不同于以往任何科技的新的倫理問題,對人類社會各方面將帶來重大影響。讓人工智能符合人類社會的各種規(guī)范和價值并實現(xiàn)全球普惠發(fā)展,是構(gòu)建普惠人工智能和有益人工智能必須解決的問題。2016年以來,人工智能倫理問題日益得到重視。2016年8月,聯(lián)合國下屬的COMEST(科學(xué)知識和科技倫理世界委員會)發(fā)布《機(jī)器人倫理初步報告草案》,認(rèn)為機(jī)器人不僅需要尊重人類社會的倫理規(guī)范,而且需要將特定倫理準(zhǔn)則編寫進(jìn)機(jī)器人中。同年9月,英國政府發(fā)布的人工智能報告《機(jī)器人學(xué)與人工智能》呼吁加強人工智能倫理研究,最大化人工智能的益處,并尋求方法以最小化其潛在威脅。之后,美國白宮在其發(fā)布的《國家人工智能研發(fā)戰(zhàn)略計劃》中提出開展人工智能倫理研究,呼吁研究新的方法來實現(xiàn)人工智能與人類社會的法律、倫理等規(guī)范和價值相一致。2017年1月,人工智能研究機(jī)構(gòu)——未來生命研究所(Future of Life Institute)召集人工智能、法律、倫理、哲學(xué)等領(lǐng)域眾多專家和學(xué)者召開阿西洛馬會議并形成了23條人工智能原則,作為人工智能研究、開發(fā)和利用的指南。[3](P22)此外,各國政府及產(chǎn)業(yè)界已經(jīng)斥巨資設(shè)立了多個研究基金,推進(jìn)對人工智能倫理問題的研究。

    但是,也有觀點對人工智能發(fā)展過程中倫理因素考量的必要性存疑。例如斯坦福汽車研究中心的執(zhí)行總監(jiān)Stephen Zoepf認(rèn)為,對電車難題的討論是沒有意義的。德國汽車制造商梅賽德斯公司更是直接給出自己對于電車難題的答案即梅賽德斯公司將優(yōu)先保護(hù)車上人員的安全。計算機(jī)編程無法完全模仿人類的心理活動,例如情緒等因素?zé)o法量化衡量,因此無法實現(xiàn)真正意義上的倫理編程。人類的道德判斷和決策并非完全基于理性、經(jīng)驗,更多的是一種感性且隨機(jī)的直覺反應(yīng)。因此,整個社會的道德框架一般是穩(wěn)定的,但是當(dāng)不同的主體面對利益取舍時,卻會因人、因事的差異而作出不同的選擇,也就是說,人類的道德決策過程本身就兼具有意識性和無意識性的特征。人工智能發(fā)展過程中,我們必須要考慮的倫理問題概括來說包括以下內(nèi)容。

    (一)人工智能算法的可解釋性和透明性問題

    人工智能系統(tǒng)進(jìn)入人類社會,必然需要遵守人類社會的法律、道德等規(guī)范和價值,做出合法合道德的行為。易言之,被設(shè)計、被研發(fā)出來的人工智能系統(tǒng)需要成為道德機(jī)器。在實踐層面,人工智能系統(tǒng)做出的行為需要和人類社會的各種規(guī)范和價值保持一致,也即價值一致性或者說價值相符性。由于人工智能系統(tǒng)是研發(fā)人員的主觀設(shè)計,這一問題最終歸結(jié)到人工智能設(shè)計和研發(fā)中的倫理問題,即一方面需要以一種有效的技術(shù)上可行的方式將各種規(guī)范和價值代碼化,植入人工智能系統(tǒng),使系統(tǒng)在運行時能夠做出合倫理的行為;另一方面需要避免研發(fā)人員在人工智能系統(tǒng)研發(fā)過程中,將其主觀的偏見、好惡、歧視等帶入人工智能系統(tǒng)。2015年谷歌公司的圖片識別服務(wù)錯誤地將某些黑人標(biāo)記為大猩猩后,被批評種族主義事件的谷歌公司立刻采取措施在搜索結(jié)果中刪除了這一標(biāo)簽。

    算法如何作出這樣的匹配我們尚不可知,可以肯定的是這種算法歧視與算法本身的構(gòu)建和其基于的數(shù)據(jù)樣本數(shù)量及樣本性質(zhì)密不可分。算法歧視問題其實取決于底層數(shù)據(jù)的積累,數(shù)據(jù)積累越多算法計算就越準(zhǔn)確,對某一人群的算法描述就越精準(zhǔn)。同時,隨著算法復(fù)雜性的增加和機(jī)器學(xué)習(xí)的普及導(dǎo)致算法黑箱問題越來越突出。美國計算機(jī)協(xié)會公共政策委員會在《算法透明性和可問責(zé)性聲明》中提出七項基本原則,第一項基本原則即為解釋,其含義是鼓勵使用算法決策系統(tǒng)對算法過程和特定決策提供解釋,并認(rèn)為促進(jìn)算法的可解釋性和透明性在公共政策中尤為重要。未來人工智能系統(tǒng)將會更加緊密地融入社會生活的方方面面,如何避免諸如性別歧視、種族歧視、弱勢群體歧視等問題,確保人工智能合倫理行為的實現(xiàn),這需要在當(dāng)前注重數(shù)學(xué)和技術(shù)等基本算法研究之外,更多地思考倫理算法的現(xiàn)實必要性和可行性。

    (二)人工智能算法的正義問題

    依托于深度學(xué)習(xí)、算法等技術(shù),從個性化推薦到信用評估、雇傭評估、企業(yè)管理再到自動駕駛、犯罪評估、治安巡邏,越來越多的決策工作正在被人工智能所取代,越來越多的人類決策主要依托于人工智能的決策。由此產(chǎn)生的一個主要問題是公平正義如何保障?人工智能的正義問題可以解構(gòu)為兩個方面:第一,如何確保算法決策不會出現(xiàn)歧視、不公正等問題。這主要涉及算法模型和所使用的數(shù)據(jù)。第二,當(dāng)個人被牽扯到此類決策中,如何向其提供申訴機(jī)制并向算法和人工智能問責(zé),從而實現(xiàn)對個人的救濟(jì),這涉及透明性、可責(zé)性等問題。在人工智能的大背景下,算法歧視已經(jīng)是一個不容忽視的問題,正是由于自動化決策系統(tǒng)日益被廣泛應(yīng)用在諸如教育、就業(yè)、信用、貸款、保險、廣告、醫(yī)療、治安、刑事司法程序等諸多領(lǐng)域。[4](P60)從語音助手的種族歧視、性別歧視問題,到美國犯罪評估軟件對黑人的歧視,人工智能系統(tǒng)決策的不公正性問題已經(jīng)蔓延到了很多領(lǐng)域,而且由于其“黑箱”④性質(zhì)、不透明性等問題,難以對當(dāng)事人進(jìn)行有效救濟(jì)。例如美國的人工智能軟件系統(tǒng)Entelo可以幫助招聘公司搜索社交網(wǎng)絡(luò)上的信息,尋找到那些在公共場合表達(dá)想要跳槽的潛在員工。又如HireVue等系統(tǒng)能夠通過分析面試視頻數(shù)據(jù)評估應(yīng)聘者的人格特點以及合適度,在視頻面試的情境下,這類智能系統(tǒng)可以迅速對應(yīng)聘者的面部活動、表達(dá)以及肢體語言進(jìn)行分析,并且與其他的應(yīng)聘者進(jìn)行比較,為招聘公司找到“最合適的人選”。像Mya、JobBot等智能系統(tǒng)甚至可以實現(xiàn)面試環(huán)節(jié)完全自動化,通過讓應(yīng)聘者與智能聊天系統(tǒng)互動來安排面試時間,即時產(chǎn)生應(yīng)聘者排名,節(jié)省超過75%的時間,大幅度地提高招聘效率。但是效率的提升并不意味著公平。智能系統(tǒng)中潛存著多種類型的偏見,可能會對應(yīng)聘者帶來決定性的負(fù)面影響。在很多情形下,應(yīng)聘者甚至不知道自己正受到機(jī)器偏見導(dǎo)致的不公正對待。

    美國很多州的法院嘗試基于智能的犯罪管理分析系統(tǒng)(Correctional Offender Management Profiling for Alternative Sanctions,COMPAS)預(yù)測作出關(guān)乎罪犯命運的司法判決,例如量刑輕重、保釋金數(shù)額、是否允許以及在何時假釋等。系統(tǒng)對關(guān)押的一萬多名刑事罪犯的刑事判決展開了對比分析。這些罪犯在被關(guān)押進(jìn)監(jiān)獄之前,需要填寫一份COMPAS問卷,他們的回答將會被錄入COMPAS軟件中,隨即系統(tǒng)會得出某一罪犯在若干方面的分?jǐn)?shù),例如累犯的風(fēng)險、暴力犯罪累犯的風(fēng)險,等等。將這些系統(tǒng)得出的預(yù)測累犯率與在兩年內(nèi)這數(shù)萬名罪犯實際發(fā)生再次犯罪的情形進(jìn)行了對比分析后,發(fā)現(xiàn)COMPAS算法的準(zhǔn)確率達(dá)到了60%左右(其中白人罪犯是59%,而黑人罪犯是63%)。其中,由于機(jī)器偏見導(dǎo)致白人與黑人的犯罪率產(chǎn)生了鮮明的對比。一方面,在錯誤預(yù)測的情形中,黑人被錯誤識別為高風(fēng)險再犯的幾率要比白人高出幾乎兩倍。另一方面,實際發(fā)生再犯的白人被標(biāo)識為低風(fēng)險再犯的幾率要比黑人高出20個百分點。[5](P74)這一事實很好的驗證了羅爾斯在其《正義論》中提及的觀點:“正義是社會制度的首要價值,某些法律和制度,不管他們?nèi)绾斡行屎陀袟l理,只要他們不正義,就必須加以改造或者廢除?!保?](P3-4)以往的法律體系中我們通過程序正義保證實體正義,那么進(jìn)入人工智能時代,我們不得不考慮如何實現(xiàn)“數(shù)字正義”。數(shù)字正義本身比任何的規(guī)制和原則范圍更廣,它對法律的各個領(lǐng)域都帶來了挑戰(zhàn)。它的目標(biāo)不僅僅限于澄清技術(shù)的發(fā)展如何引發(fā)各種新問題,更在于運用技術(shù)來解決新問題,從而使得社會中的每個個體都可以運用技術(shù)來解決糾紛。[7]

    (三)人工智能的道德及法律地位

    技術(shù)的發(fā)展使得人工智能系統(tǒng)的外在表現(xiàn)形式和內(nèi)在機(jī)理方面越來越像人,如何在未來的法律框架體系中看待人工智能系統(tǒng),其是否可以享有一定的道德地位或法律地位至關(guān)重要。主張不能賦予其道德和法律地位的群體,他們的觀點主要基于兩大理論:道德主體和道德痛苦。前者是普遍人權(quán)的基礎(chǔ);后者則是動物權(quán)利的基礎(chǔ),因為動物被認(rèn)為可以感受到痛苦,所以需要給予一定的道德權(quán)利,而人工智能系統(tǒng)不具有道德痛苦的感知力,因此不應(yīng)賦予其獨立的道德和法律地位。早在17世紀(jì),隨著人文主義和啟蒙運動的興起,圍繞自然人的主體意志和法律行為,創(chuàng)設(shè)了主客體兩分的法律人格理論,以此打破了羅馬法體系下根據(jù)實踐的需要設(shè)置不同的法律人格的傳統(tǒng)。[8](P74)但是工業(yè)革命的進(jìn)程促進(jìn)了機(jī)械大工業(yè)的發(fā)展,具有擬制法律人格的法人的出現(xiàn),一定程度上可以說是復(fù)興了羅馬法關(guān)于不同法律主體的法律地位。法人的出現(xiàn)讓非自然人以外的主體開始擁有法律主體地位。

    人工智能時代,大量電子契約的成立及由人工智能引發(fā)的各種侵權(quán)行為的發(fā)生,對我們?nèi)绾我?guī)制人工智能的侵權(quán)問題提出了挑戰(zhàn)。美國法學(xué)家大衛(wèi)·弗拉德克認(rèn)為,如果無人駕駛汽車發(fā)生了交通事故,應(yīng)由汽車自己對其行為負(fù)責(zé)。他提出應(yīng)該允許無人駕駛汽車持有相應(yīng)的保險,安全記錄良好的無人駕駛汽車可以支付較低的保險費用,相反,安全記錄不好的無人駕駛汽車則需要支付高額的保險費用,從而抬高該種車輛的整體價格,被市場淘汰。如果我們認(rèn)為可以讓無人駕駛汽車擁有保險,那么是否意味著我們同時應(yīng)該允許他們擁有相應(yīng)的財產(chǎn)?進(jìn)一步,如果人工智能可以擁有財產(chǎn),也就意味著法律上賦予其獨立人格具有理論和實踐意義。在現(xiàn)有的法律框架下各國立法都有法律擬制主體“法人”的存在,其獨立存在的意義在于其很好地完成了從封建社會以個人為本位的社會法律體系到資本主義社會以資本為核心的公司制法律體系的重構(gòu)。那么,我們有理由相信人工智能這一擬制主體的出現(xiàn)會促使我們重新審視現(xiàn)有的法律主體類型。在現(xiàn)有的法律框架中意圖為人工智能體設(shè)立獨立的法律地位,其首先需要滿足“道德行為體”即該主體必須有能力感知到他們行為后果中與道德相關(guān)的部分,而且必須有能力在行動方案之間作出選擇。[9](P78)目前人工智能體尚沒有能力感知其行為后果并作出相應(yīng)的選擇,但是隨著人工智能體硬件和軟件的不斷進(jìn)化與發(fā)展,未來法律的建構(gòu)需要為其預(yù)留相應(yīng)的法律空間。

    (四)人工智能對個人隱私、自由與尊嚴(yán)的影響

    人工智能系統(tǒng)對數(shù)據(jù)的大量收集、利用,數(shù)據(jù)分析的自動化、智能化,以及隱私與數(shù)據(jù)保護(hù)提出了挑戰(zhàn)。當(dāng)前基于機(jī)器學(xué)習(xí)的人工智能系統(tǒng)在訓(xùn)練和運行過程中,需要使用大量的數(shù)據(jù),其中很多是個人數(shù)據(jù),在人工智能時代,如何重新定義隱私顯得尤為重要。一方面,人工智能由于有大數(shù)據(jù)作為學(xué)習(xí)和分析的基礎(chǔ),可以清晰分析出個人的消費習(xí)慣、收入狀況等隱私內(nèi)容,基于這些數(shù)據(jù)分析形成的“算法殺熟”現(xiàn)象會導(dǎo)致不同人在獲得相同服務(wù)時花費不同的價格,加劇了社會不公平現(xiàn)象。人工智能系統(tǒng)對個人數(shù)據(jù)的自動化智能化的分析和決策,可以形成個人畫像或者形象,進(jìn)而影響個人的投資和收益。例如基于人工智能技術(shù)的智能投顧,可以根據(jù)客戶的財產(chǎn)狀況等提出合理化的投資建議。但是如果投資失敗,客戶的權(quán)益如何保障,銀行等商業(yè)性金融機(jī)構(gòu)如何實現(xiàn)數(shù)據(jù)商業(yè)利用與個人數(shù)據(jù)管理之間的平衡,就成了新的難題。另一方面,在司法活動過程中,機(jī)器學(xué)習(xí)技術(shù)可以通過分析腦部傳感器收集的大腦數(shù)據(jù),尤其是在測謊等方面的能力變得越來越強。在司法審判過程中,現(xiàn)有的還原案件真實情況的過程將極大地簡化,但隨之而來的問題是我們的思想是否應(yīng)該接受司法的檢查,我們的人格尊嚴(yán)和個人權(quán)利隨著技術(shù)的進(jìn)化是否會逐漸喪失。人工智能時代我們個人身份范式已經(jīng)從現(xiàn)實空間延伸到數(shù)字空間,每個人在以數(shù)字身份生存的時候,個人尊嚴(yán)和自由如何獲得保障,在人類決策受到人工智能左右時,我們的選擇自由或許會受到威脅,從而威脅到我們?nèi)祟愔詾槿说淖饑?yán)問題。

    二、人工智能法律規(guī)則中的倫理體系建構(gòu)

    法律與技術(shù)的雙向互動性,要求技術(shù)對倫理的考量轉(zhuǎn)化為法律的內(nèi)在道德。人類有偏見,機(jī)器也有偏見。最近美國的一個網(wǎng)站設(shè)計了一系列無人駕駛汽車設(shè)定程序時需要回答的道德問題,面對這樣的難題,功利主義者認(rèn)為,實現(xiàn)最大多數(shù)人的最大幸福是判斷是非的標(biāo)準(zhǔn);自由主義者認(rèn)為,違背一個人的自由意志而讓其犧牲是不可接受的。[10](P117)這些道德問題是人類需要預(yù)先設(shè)定并回答的,但是倫理問題因各國文化、宗教和信仰等的不同而存在差別。如何研究出新的算法從而確保人工智能作出的決策與現(xiàn)有的法律、社會倫理一致,是一項具有挑戰(zhàn)性的任務(wù)。

    技術(shù)倫理走入人工智能研究者的視野,谷歌、臉書公司、亞馬遜等硅谷企業(yè)也開始關(guān)注技術(shù)倫理問題,紛紛在其公司內(nèi)部成立專門的倫理中心或倫理委員會進(jìn)行相應(yīng)的研究。更有部分的美國高校將技術(shù)倫理課程引入校園,例如哈佛大學(xué)和美國麻省理工學(xué)院合作開設(shè)了“倫理與治理”課程,德克薩斯州大學(xué)創(chuàng)設(shè)了名為“計算機(jī)科學(xué)的倫理”基礎(chǔ)課程,此外,斯坦福大學(xué)、紐約大學(xué)、康奈爾等大學(xué)也設(shè)置了類似的課程,從而引發(fā)下一代技術(shù)人才對人工智能倫理問題的關(guān)注和思考。如果說在人工智能技術(shù)的研究和開發(fā)過程中嵌入倫理學(xué)的考量是保證技術(shù)中立、無歧視的先前步驟,那么在法律活動中對技術(shù)倫理的考量則更需要考驗法律人的智慧。我們需要從以下幾個方面著手來建構(gòu)人工智能的法律倫理規(guī)則。

    (一)立法過程要求立法技術(shù)具有倫理正當(dāng)性,促進(jìn)算法可解釋性

    人工智能系統(tǒng)對于人類而言就像是一個黑匣子,我們只能看到其通過復(fù)雜運算得到的 “最優(yōu)”結(jié)果,但是對于結(jié)論是如何作出的我們卻毫無頭緒。2017年初,英國政府的獨立評估小組對人工智能在英國的發(fā)展進(jìn)行評估并發(fā)布了一份名為《發(fā)展英國人工智能產(chǎn)業(yè)》的報告。報告中提出,治理人工智能的主要目標(biāo)是保障所使用的算法足夠的公平、公正和透明。在這幾項治理目標(biāo)或原則當(dāng)中,算法的透明度無疑是保障算法結(jié)果的公平和公正的前提。這份報告提出了十八條建議,其中一條就是建立一個人工智能的解釋機(jī)制,讓編程者提供必要的信息,解釋人工智能系統(tǒng)的構(gòu)造和機(jī)理,幫助公眾了解這些智能系統(tǒng)是如何得出結(jié)論的。為了解決這個認(rèn)知難題,很多學(xué)者提出了這樣的治理方案:我們首先需要讓算法的創(chuàng)造者幫助我們理解算法的形成以及運行邏輯。要滿足這樣的需求,解釋權(quán)制度應(yīng)運而生。歐盟在其《一般數(shù)據(jù)保護(hù)條例》(GDPR)中首創(chuàng)該制度,即公眾有權(quán)要求與其個人相關(guān)的自動決策系統(tǒng)對其算法決策作出必要的解釋。[11](P104)通過行使這種權(quán)利,個人在理論上就可以了解算法是怎樣運行的,也就可以利用法律賦予的其他權(quán)利來調(diào)整算法在個人生活中所扮演的角色。

    算法雖然可以在司法活動中輔助司法并進(jìn)行決策,但是算法決策也存在著算法目標(biāo)不確定、使用的數(shù)據(jù)不完整以及算法對偏差的固化和放大等問題。因此,有必要在算法進(jìn)入司法決策過程之前就進(jìn)行干預(yù),也即如何在立法前置階段解決人工智能所帶來的法律難題。分析法學(xué)派的奠基人約翰·奧斯汀就曾說過“立法科學(xué)是倫理學(xué)的一個分支,其作用在于確定衡量實在法的標(biāo)準(zhǔn)以及實在法為得到認(rèn)可而必須依賴于其上的原則”[10](P132)。因此,立法活動也是將倫理學(xué)中的道德因素轉(zhuǎn)化為實然法的過程。目前,雖然全球各主要國家和地區(qū)如美國、歐盟、英國、日本等都出臺了相應(yīng)的人工智能國家戰(zhàn)略和前沿立法,但是目前的立法中并沒有明確嵌入倫理和道德規(guī)范。美國著名法學(xué)家德沃金認(rèn)為:“原則是一個社會中人們所公認(rèn)的政治理想和道德觀念,是規(guī)則背后把分散的規(guī)則聯(lián)結(jié)為一個整體的東西?!保?2](P18)我國在人工智能相關(guān)的立法過程中,可以將人工智能的倫理原則和道德規(guī)范通過法律原則的形式體現(xiàn)。將人工智能倫理建構(gòu)中的普遍原則轉(zhuǎn)化為立法形式,需要運用法律原則、法律規(guī)則等形式指導(dǎo)立法,而這些法律原則、法律規(guī)則也必須是各國立法中所共同承認(rèn)的、可以普遍得到遵守的基本法律原則。

    (二)司法裁判過程需發(fā)揮主觀判斷,避免形成對人工智能的路徑依賴

    我國在2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中指出:“建設(shè)集審判、人員、數(shù)據(jù)應(yīng)用、司法公開和動態(tài)監(jiān)控于一體的智慧法庭數(shù)據(jù)平臺,促進(jìn)人工智能在證據(jù)收集、案例分析、法律文件閱讀與分析中的應(yīng)用,實現(xiàn)法院審判體系和審判能力智能化?!保?3](P53)英國倫敦大學(xué)學(xué)院、謝菲爾德大學(xué)和美國賓夕法尼亞大學(xué)的最新研究成果顯示,人工智能已經(jīng)可以進(jìn)行法律證據(jù)與道德問題的判斷,從而協(xié)助法官提高庭審的準(zhǔn)確性。我國也在智能輔助審判方面積極探索,根據(jù)最新公布的統(tǒng)計數(shù)據(jù),北京法院智能輔助系統(tǒng)的應(yīng)用將法官的案情分析效率提升75%以上,文本檢索的案例匹配度從20%提升到基于法律知識圖譜與事實相似的90%,同時,基于該系統(tǒng)對相似案例結(jié)合裁判尺度的分析,可以將法官的裁判尺度偏差降低一半以上。[14]而在2016年末,美國數(shù)據(jù)科學(xué)家設(shè)計出能夠預(yù)測案件的新型人工智能系統(tǒng)。研究人員將歐洲人權(quán)法院近年的584個案件作為測試數(shù)據(jù),測試人員將這些案件交由人工智能系統(tǒng)學(xué)習(xí),并且獨立對判決結(jié)果作出預(yù)測即回答究竟哪一方可以勝訴的問題。結(jié)果顯示,人工智能系統(tǒng)預(yù)測的準(zhǔn)確率高得驚人,可以達(dá)到79%。雖然人工智能系統(tǒng)預(yù)測成功率令人滿意,但是人工智能的司法裁判是基于規(guī)則理性的推理,而無法像人類一樣運用超越規(guī)則進(jìn)行價值判斷。人工智能的預(yù)測更多地依賴于非法律事實,而非人類創(chuàng)設(shè)的法律規(guī)則。

    此外,更多目前人工智能預(yù)測系統(tǒng)的主要問題在于,研究人員使用的數(shù)據(jù)范圍相對有限,現(xiàn)階段基于大數(shù)據(jù)的類案推薦大多數(shù)采用的是自然語言識別技術(shù)進(jìn)行海量文書的關(guān)鍵案情的提取,導(dǎo)致人工智能對判決的理解僅僅局限于訓(xùn)練數(shù)據(jù)[15](P142),而對于案件的背景知識知之甚少,所以常常無法理解判決與判決之間的細(xì)微差別,可能會導(dǎo)致案件判決的偏差。馬爾庫塞說:“當(dāng)技術(shù)成為物質(zhì)生產(chǎn)的普遍形式時,就制約著整個文化,人的體力和智力不得不依附于越來越復(fù)雜的機(jī)器,從而使人失去了其應(yīng)有的創(chuàng)造性,成為機(jī)械系統(tǒng)的奴隸?!保?6](P77)當(dāng)法官在司法裁判中越來越多的運用人工智能作為輔助裁判工具時,人工智能審判輔助系統(tǒng)分析產(chǎn)生的結(jié)果會對法官的自我判斷產(chǎn)生一定的導(dǎo)向性。當(dāng)個案中出現(xiàn)一些需要給予特別考量的道德因素時,輔助審判系統(tǒng)可能會出現(xiàn)偏差。如果法官不對這些因素進(jìn)行個案衡量,而是導(dǎo)向性的依賴輔助審判系統(tǒng)給出的結(jié)果,可能會產(chǎn)生裁判的不公正。長此以往,以人工智能為依托的輔助審判系統(tǒng)會導(dǎo)致法官產(chǎn)生技術(shù)上的路徑依賴⑤,縮小司法的自由裁量權(quán)的適用空間,最終影響審判的公正性。因此,在司法裁判過程中,我們需要在算法決策之外,發(fā)揮人對技術(shù)的主觀判斷,避免形成以人工作智能為核心的技術(shù)上的路徑依賴。具體來說,在人工智能輔助司法決策過程中,應(yīng)要求輔助法官直接審判決策類的算法必須提供決策解釋,鼓勵其他影響法官決策的算法盡可能提高算法的可解釋性,以促進(jìn)司法決策的透明和公開,保證案件判決結(jié)果的公平公正。

    (三)法律實施效果評價需要對市場參與各方的權(quán)利義務(wù)分配作出衡量

    制定有效的人工智能治理規(guī)則往往依賴于我們對人工智能的正確理解。然而在作出任何有意義的治理決策之前,擺在人類面前的首先是一道認(rèn)知難題:我們對于人工智能的認(rèn)知有限,也缺乏了解人工智能的工具。在現(xiàn)實生活中,人工智能產(chǎn)生的成果關(guān)乎著人類各方權(quán)利義務(wù)的分配和利益的衡量。例如微軟小冰創(chuàng)作的詩集,其法律性質(zhì)如何,可否定義為作品,從而獲得著作權(quán)法的保護(hù)。如果能獲得保護(hù),參與小冰創(chuàng)作的各方包括小冰算法的工程師、人工智能小冰及后續(xù)參與創(chuàng)作的人類創(chuàng)作者之間如何分配相應(yīng)的權(quán)利義務(wù)。這些新型法律問題的解決依賴于我們合理考量這些法律問題背后所帶來的社會影響和法律實施效果。在評價法律實施效果的過程中我們需要選擇合理的分析路徑。

    首先,我們必須為機(jī)器進(jìn)行雙重意義的編碼:也就是說我們需要將人類所要實現(xiàn)的法律目的寫入法律,同時寫入控制機(jī)器的軟件。因為只有將現(xiàn)存的第一層編碼,也就是法律編碼里所有不清楚和不確定的因素完全排除,我們才能進(jìn)行第二層編碼的編寫。而在這個階段,明確的法律目的至關(guān)重要。具體來說,就是要運用法律分析工具具體衡量各方利益及由此帶來的社會效果。以小冰詩集為例,對于人工智能生成物是否應(yīng)該納入法律保護(hù)范圍,需要運用成本效益分析的法經(jīng)濟(jì)學(xué)分析方法,分析比較將其納入法律保護(hù)框架中的社會效果。人工智能產(chǎn)生的大量創(chuàng)作成果在滿足了獨創(chuàng)性要求的情況下,如果不對這些成果給予著作權(quán)法上的保護(hù),其后果是大量的具有獨創(chuàng)性內(nèi)容的成果將會進(jìn)入公有領(lǐng)域,人類使用者將會有大量的免費優(yōu)質(zhì)內(nèi)容可以使用,不用再需要通過付費獲取內(nèi)容,從而損害創(chuàng)作者的版權(quán)獲利,挫傷版權(quán)人的創(chuàng)作意愿。我們可以將其歸結(jié)為創(chuàng)作成果的“激勵”與“接觸”之間的交換平衡被打亂,沒有法律保護(hù)復(fù)制的發(fā)生,則創(chuàng)造知識財產(chǎn)的激勵也受到破壞。[17](P14)著作權(quán)法所設(shè)定的鼓勵創(chuàng)作、激勵創(chuàng)新的法律目的就難以實現(xiàn)。

    其次,如果我們將法律條文編程輸入智能機(jī)器,在第二次編碼的編寫過程中,軟件代碼不允許含混,因此代碼必須表意明確,這樣機(jī)器才能按照代碼執(zhí)行。[18](P138)這種輸入過程一方面要求我們對法律條文的理解具有準(zhǔn)確性,另一方面還需要為法律條文的法解釋學(xué)留有一定的空間。面對不斷涌現(xiàn)的新興事物,司法過程中需要運用法解釋學(xué)對新情況、新問題作出回應(yīng),這就需要我們在將法律條文輸入的過程中將該法律條文背后所蘊含的法律目的和法律原理等內(nèi)容進(jìn)行轉(zhuǎn)換,幫助人工智能在輔助司法決策過程中可以更好地服務(wù)于特定的法律目的,實現(xiàn)對各方權(quán)利義務(wù)的合理配置。

    三、結(jié) 語

    人工智能被譽為是當(dāng)代創(chuàng)新技術(shù)“工具箱”中的極為重要的一種。過去的半個世紀(jì)以來,技術(shù)創(chuàng)新成為推動各行各業(yè)轉(zhuǎn)型發(fā)展的基礎(chǔ)性要素,從中央處理器、個人電腦、互聯(lián)網(wǎng)絡(luò)、智能設(shè)備、移動通信,到云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)、區(qū)塊鏈等,新興技術(shù)的日趨成熟,不斷激活新一輪的創(chuàng)新浪潮,引領(lǐng)社會經(jīng)濟(jì)生活多個領(lǐng)域的深刻變革,但這些技術(shù)的變革與更新是以人的思想創(chuàng)新為根本。法國思想家布萊茲·帕斯卡曾說過:“人不過是一根蘆葦,是自然界里最脆弱的東西;但他是一根會思想的蘆葦?!保?](P1)我們?nèi)祟愡M(jìn)步與創(chuàng)新的源泉在于思想,而人工智能時代我們引以為傲的思想也可能會被取代和復(fù)制。

    哲學(xué)家溫迪楚指出,從基因密碼到市場看不見的手,從意識形態(tài)到文化,程序?qū)蔀橐磺胁豢梢姷膮s又有著巨大影響力的事物的強有力的“隱喻”。我們的基因密碼也是數(shù)字化的,正如電腦代碼一般。我們的文化也是可以再編程的,我們的大腦就是一臺由神經(jīng)元構(gòu)成的電腦,進(jìn)化就是對我們的編程,而基因密碼每天都在被不斷寫入。我們?nèi)祟愡M(jìn)化的過程也伴隨著技術(shù)的不斷發(fā)展,而技術(shù)的進(jìn)化過程中,也必然會從最初的只關(guān)注技術(shù)本身的發(fā)展逐漸過渡到將人類的價值觀和倫理觀納入其中,更好地促進(jìn)和引導(dǎo)技術(shù)的發(fā)展朝著有利于人類自身發(fā)展的方向演進(jìn),而人工智能便是這股技術(shù)進(jìn)化浪潮中的典型代表。有人說:“人工智能,是西方式法治的大敵?!保?9](P190)因為即使是我們?nèi)祟惪雌饋矸彪s的程序、與日俱增的法規(guī)案例,人工智能系統(tǒng)可以迅速掌握。所有這些法律人引以為傲的知識和身份,連同多年積累的辦案經(jīng)驗、人脈資源,被人工智能取代,成為算法與數(shù)據(jù)。我們在面對人工智能帶來的機(jī)遇與挑戰(zhàn)時候,不應(yīng)盲目地否定或認(rèn)可,應(yīng)更加冷靜客觀地分析其背后的技術(shù)原理和算法實現(xiàn)過程。在法律實踐的全流程中將技術(shù)與道德、倫理因素緊密結(jié)合,將人類的價值觀和法律的目的性納入人工智能的實現(xiàn)過程中,使其更好地為法律服務(wù),構(gòu)建一套人工智能在法律領(lǐng)域特有的并在各國具有普適性的法律倫理框架。

    注釋:

    ①機(jī)器學(xué)習(xí)是人工智能的一種類型,允許計算機(jī)在沒有特別的程序指導(dǎo)下可以自主學(xué)習(xí),使計算機(jī)可以通過大數(shù)據(jù)可以進(jìn)行適應(yīng)性學(xué)習(xí)。See Andrew Arruda,An Ethical Obligation to Use Artificial Intelligence?An Examination of the Use of Artificial Intelligence in Law and the Model Rules of Professional Responsibility,40 Am.J.Trial Advoc.443(2017).

    ②常被用作貶義詞,形容那些站在歷史對立面、反對技術(shù)進(jìn)步和必然變革對新技術(shù)持仇視態(tài)度的人,這些人被概括稱為“盧德分子”。參見:王闖《盧德分子》,《視野》2017年第19期第32頁。

    ③電車難題,是一個倫理學(xué)的思想實驗。英國哲學(xué)家菲利帕·芙特在1967年首次提出這個問題。在1996年,朱迪斯·湯姆遜、彼得·昂格爾等人重新提出這個問題,使這個問題為人所熟知。大致內(nèi)容是假設(shè)你看到一輛剎車壞了的有軌電車,即將撞上前方軌道上的五個人,而備用軌道上有一個人,如果你什么都不做,五個人會被撞死,如果你按下一個按鈕,車會駛?cè)雮溆密壍?,只會撞死一個人。你是否會犧牲一個人的生命而拯救另外五個人的生命?

    ④黑箱是指一個系統(tǒng),該系統(tǒng)只能得到它的輸入值和輸出值,而不知道其內(nèi)部結(jié)構(gòu)。黑箱可以是任何系統(tǒng),只要是僅根據(jù)其外部性質(zhì)的研究來對它進(jìn)行判斷的系統(tǒng)。參見:高奇琦《人工智能:馴服賽維坦》,上海交通大學(xué)出版社2018年版第23頁。

    ⑤路徑依賴的概念最早來源于生物學(xué)界,用來說明偶然性隨機(jī)因素對物種進(jìn)化路徑的影響,之后美國經(jīng)濟(jì)學(xué)家David將其引入經(jīng)濟(jì)學(xué)的研究范疇,用于解釋技術(shù)變遷中的問題。See P.A.David,Clio and The Economics of Qwerty.American Economic Review,1985,75(2).

    猜你喜歡
    倫理人工智能法律
    《心之死》的趣味與倫理焦慮
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    醫(yī)改莫忘構(gòu)建倫理新機(jī)制
    国产黄a三级三级三级人| 成人欧美大片| av专区在线播放| 亚洲中文字幕日韩| 日韩欧美三级三区| 六月丁香七月| 亚洲精品一区蜜桃| 老司机影院毛片| 人人妻人人澡欧美一区二区| 99九九线精品视频在线观看视频| 国产精品美女特级片免费视频播放器| 一级毛片aaaaaa免费看小| 美女脱内裤让男人舔精品视频| 五月伊人婷婷丁香| 国产高清国产精品国产三级 | 成人毛片a级毛片在线播放| 国产伦精品一区二区三区视频9| 视频中文字幕在线观看| 成人鲁丝片一二三区免费| 99久久精品一区二区三区| 大话2 男鬼变身卡| 国产一区二区亚洲精品在线观看| 中文字幕精品亚洲无线码一区| 大又大粗又爽又黄少妇毛片口| 国产av码专区亚洲av| 欧美日本亚洲视频在线播放| 免费观看性生交大片5| 热99re8久久精品国产| 一级毛片aaaaaa免费看小| 我的老师免费观看完整版| 黑人高潮一二区| 一级毛片我不卡| 高清毛片免费看| 国产大屁股一区二区在线视频| 蜜桃亚洲精品一区二区三区| 草草在线视频免费看| 人人妻人人澡欧美一区二区| 日本色播在线视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国语对白做爰xxxⅹ性视频网站| 日韩 亚洲 欧美在线| 18禁动态无遮挡网站| 欧美极品一区二区三区四区| av在线老鸭窝| 一个人看视频在线观看www免费| 精品不卡国产一区二区三区| 亚洲精品日韩在线中文字幕| 婷婷六月久久综合丁香| a级毛片免费高清观看在线播放| 国产黄色小视频在线观看| 国产精品熟女久久久久浪| 欧美3d第一页| 成人综合一区亚洲| 一个人看的www免费观看视频| 久久99蜜桃精品久久| 国产亚洲91精品色在线| 久久综合国产亚洲精品| 建设人人有责人人尽责人人享有的 | 大香蕉久久网| 亚洲综合色惰| 国产精品久久久久久精品电影小说 | 黄片wwwwww| 精品免费久久久久久久清纯| 国产精品伦人一区二区| 白带黄色成豆腐渣| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 天堂√8在线中文| 99在线视频只有这里精品首页| 99热这里只有是精品50| 婷婷色麻豆天堂久久 | 免费无遮挡裸体视频| 亚洲美女视频黄频| 我要搜黄色片| 一卡2卡三卡四卡精品乱码亚洲| 不卡视频在线观看欧美| 七月丁香在线播放| 午夜福利视频1000在线观看| 99久久精品一区二区三区| 国产乱人视频| 国产精品精品国产色婷婷| 久久99热6这里只有精品| 国产伦理片在线播放av一区| 久久精品久久久久久噜噜老黄 | 99视频精品全部免费 在线| 久久婷婷人人爽人人干人人爱| 97热精品久久久久久| 国产乱人偷精品视频| 插逼视频在线观看| 成人特级av手机在线观看| 麻豆精品久久久久久蜜桃| 午夜免费男女啪啪视频观看| av在线观看视频网站免费| 超碰av人人做人人爽久久| 国产单亲对白刺激| 插逼视频在线观看| 中文字幕熟女人妻在线| 99热这里只有精品一区| 成年女人看的毛片在线观看| 淫秽高清视频在线观看| 午夜激情福利司机影院| 欧美激情国产日韩精品一区| 欧美97在线视频| 亚洲成av人片在线播放无| 国产伦一二天堂av在线观看| 国产精品.久久久| 日本免费在线观看一区| 午夜福利高清视频| 婷婷色综合大香蕉| 国产欧美另类精品又又久久亚洲欧美| 青青草视频在线视频观看| 最后的刺客免费高清国语| 欧美3d第一页| 国产午夜精品一二区理论片| 插逼视频在线观看| 亚洲成人中文字幕在线播放| 日本猛色少妇xxxxx猛交久久| 美女内射精品一级片tv| 女人被狂操c到高潮| 青春草视频在线免费观看| 女人久久www免费人成看片 | 啦啦啦啦在线视频资源| 成人欧美大片| 午夜福利在线观看免费完整高清在| 久久久欧美国产精品| 网址你懂的国产日韩在线| 国产爱豆传媒在线观看| av免费在线看不卡| 欧美激情在线99| 国产亚洲一区二区精品| 中文字幕久久专区| 国产精品国产高清国产av| 久久欧美精品欧美久久欧美| 在线免费观看的www视频| 午夜亚洲福利在线播放| av女优亚洲男人天堂| 久久精品国产鲁丝片午夜精品| 欧美日韩国产亚洲二区| 亚洲精品aⅴ在线观看| 99久久精品热视频| 免费大片18禁| a级毛色黄片| 成人欧美大片| 日本色播在线视频| 最近手机中文字幕大全| 欧美日韩国产亚洲二区| 亚洲精品乱久久久久久| 久久精品久久久久久久性| 老师上课跳d突然被开到最大视频| 最近2019中文字幕mv第一页| 国产片特级美女逼逼视频| 久久精品国产亚洲网站| 中文字幕人妻熟人妻熟丝袜美| 特级一级黄色大片| 婷婷色麻豆天堂久久 | 99久久人妻综合| 久久鲁丝午夜福利片| 午夜日本视频在线| 爱豆传媒免费全集在线观看| av卡一久久| 婷婷色av中文字幕| 免费av观看视频| 网址你懂的国产日韩在线| 亚洲精品日韩av片在线观看| 嫩草影院精品99| 午夜爱爱视频在线播放| 亚洲丝袜综合中文字幕| 国产女主播在线喷水免费视频网站 | 91午夜精品亚洲一区二区三区| 一夜夜www| 久久人妻av系列| 午夜日本视频在线| 亚洲精品国产av成人精品| 小蜜桃在线观看免费完整版高清| 七月丁香在线播放| 免费看日本二区| av.在线天堂| 国产精品爽爽va在线观看网站| 中文字幕制服av| 国产成人精品久久久久久| 噜噜噜噜噜久久久久久91| 蜜桃久久精品国产亚洲av| 天堂中文最新版在线下载 | 久久欧美精品欧美久久欧美| 最近手机中文字幕大全| 日韩国内少妇激情av| 99热网站在线观看| 成人二区视频| 日本黄大片高清| 嫩草影院精品99| 久久久久久久久久久丰满| 日韩欧美 国产精品| 亚洲av电影在线观看一区二区三区 | 搡老妇女老女人老熟妇| 九九爱精品视频在线观看| 日韩av不卡免费在线播放| 深夜a级毛片| 欧美激情在线99| 中文字幕亚洲精品专区| 日本熟妇午夜| 亚洲一级一片aⅴ在线观看| 午夜激情欧美在线| 欧美日韩一区二区视频在线观看视频在线 | 国产伦理片在线播放av一区| 少妇丰满av| 好男人视频免费观看在线| 久久人妻av系列| 日韩国内少妇激情av| 久久久亚洲精品成人影院| 亚洲精品色激情综合| 日韩高清综合在线| 日韩成人伦理影院| 少妇的逼好多水| 久久久久久久国产电影| 自拍偷自拍亚洲精品老妇| 午夜老司机福利剧场| 中文字幕av在线有码专区| 最新中文字幕久久久久| 韩国高清视频一区二区三区| 成人毛片60女人毛片免费| 欧美激情在线99| 日韩一区二区视频免费看| 少妇丰满av| 国产麻豆成人av免费视频| 亚洲欧美日韩东京热| 久久精品久久久久久噜噜老黄 | 国产精华一区二区三区| 欧美成人a在线观看| 一区二区三区乱码不卡18| 亚洲国产最新在线播放| 99久久人妻综合| 精品国产露脸久久av麻豆 | 久久久久久久久中文| 中文亚洲av片在线观看爽| 91精品国产九色| 中文字幕久久专区| 精品人妻偷拍中文字幕| 亚洲国产欧美在线一区| 能在线免费看毛片的网站| 成人综合一区亚洲| 国产极品精品免费视频能看的| 精品少妇黑人巨大在线播放 | 免费观看a级毛片全部| 一区二区三区四区激情视频| 精品99又大又爽又粗少妇毛片| 国产白丝娇喘喷水9色精品| 免费av毛片视频| 久久国内精品自在自线图片| 国产探花在线观看一区二区| 欧美一区二区精品小视频在线| 久久久久久大精品| 欧美成人免费av一区二区三区| 亚洲经典国产精华液单| 国产精品国产三级专区第一集| 亚洲国产成人一精品久久久| 可以在线观看毛片的网站| 亚洲精品aⅴ在线观看| 久久久精品94久久精品| 国产视频内射| 精品酒店卫生间| 日本色播在线视频| 国产精品久久久久久av不卡| 搞女人的毛片| 免费看美女性在线毛片视频| 久久久久久久久中文| 日韩三级伦理在线观看| 亚洲天堂国产精品一区在线| 99久久精品热视频| 免费黄网站久久成人精品| 日韩精品青青久久久久久| 亚洲高清免费不卡视频| 久久久久久久久久久丰满| 国产精品一区二区三区四区免费观看| 一区二区三区四区激情视频| 国产成人aa在线观看| 波多野结衣巨乳人妻| 日韩人妻高清精品专区| 亚洲av一区综合| 亚洲美女搞黄在线观看| 夫妻性生交免费视频一级片| 亚洲国产欧美在线一区| 国产乱来视频区| 国产探花极品一区二区| 又粗又硬又长又爽又黄的视频| 色尼玛亚洲综合影院| 国产精品福利在线免费观看| 亚洲欧美一区二区三区国产| 中文天堂在线官网| 亚洲av免费高清在线观看| 国产精品一区二区在线观看99 | 九九热线精品视视频播放| 国产色爽女视频免费观看| 国内揄拍国产精品人妻在线| 国产精品蜜桃在线观看| 久久久午夜欧美精品| 久久久久网色| 国产午夜福利久久久久久| 亚洲高清免费不卡视频| 亚洲av二区三区四区| 免费看美女性在线毛片视频| 国产精品人妻久久久久久| 国产一区亚洲一区在线观看| 99热这里只有是精品50| 国产一区亚洲一区在线观看| 亚洲在线自拍视频| 精品午夜福利在线看| 国产精品永久免费网站| 热99在线观看视频| 亚洲图色成人| 菩萨蛮人人尽说江南好唐韦庄 | 久久99精品国语久久久| 最近2019中文字幕mv第一页| 中文天堂在线官网| 能在线免费观看的黄片| 纵有疾风起免费观看全集完整版 | 三级国产精品片| 欧美一区二区精品小视频在线| 99久久精品国产国产毛片| .国产精品久久| 69av精品久久久久久| 欧美人与善性xxx| 成人特级av手机在线观看| 精品久久久久久久久久久久久| 成人毛片60女人毛片免费| 日本爱情动作片www.在线观看| 成年av动漫网址| .国产精品久久| 又粗又硬又长又爽又黄的视频| 国产69精品久久久久777片| 伦理电影大哥的女人| 国产精品一区二区三区四区久久| 久久精品国产亚洲网站| 国产精品一区二区在线观看99 | 中文字幕av在线有码专区| 热99在线观看视频| 日韩一区二区三区影片| 国产精品.久久久| 长腿黑丝高跟| 国产一级毛片在线| 欧美三级亚洲精品| 美女xxoo啪啪120秒动态图| 欧美另类亚洲清纯唯美| 日产精品乱码卡一卡2卡三| av女优亚洲男人天堂| 人体艺术视频欧美日本| 亚洲欧美清纯卡通| av福利片在线观看| 国产精品久久久久久av不卡| 色网站视频免费| 99久久无色码亚洲精品果冻| 三级男女做爰猛烈吃奶摸视频| 毛片一级片免费看久久久久| 成人亚洲欧美一区二区av| 免费搜索国产男女视频| 国产精品一区二区在线观看99 | 99在线视频只有这里精品首页| 精品熟女少妇av免费看| 国产亚洲精品久久久com| 精品国产一区二区三区久久久樱花 | 18禁动态无遮挡网站| 免费观看a级毛片全部| 干丝袜人妻中文字幕| 亚洲精品久久久久久婷婷小说 | 两个人的视频大全免费| 日韩 亚洲 欧美在线| 午夜福利高清视频| 人妻少妇偷人精品九色| 亚洲精品亚洲一区二区| 99热全是精品| 亚洲欧美日韩无卡精品| 国产精品蜜桃在线观看| 九九久久精品国产亚洲av麻豆| 亚洲不卡免费看| 免费播放大片免费观看视频在线观看 | 不卡视频在线观看欧美| 少妇猛男粗大的猛烈进出视频 | 国产单亲对白刺激| ponron亚洲| 国产免费视频播放在线视频 | 赤兔流量卡办理| 久久久久久伊人网av| 成人鲁丝片一二三区免费| 麻豆久久精品国产亚洲av| 91久久精品国产一区二区成人| av专区在线播放| 亚洲精品乱久久久久久| 一卡2卡三卡四卡精品乱码亚洲| 国产乱人视频| 少妇猛男粗大的猛烈进出视频 | 一区二区三区乱码不卡18| 日本熟妇午夜| 淫秽高清视频在线观看| 天堂影院成人在线观看| 中文欧美无线码| 熟女人妻精品中文字幕| 国产精品1区2区在线观看.| 深爱激情五月婷婷| av在线老鸭窝| 亚洲av成人精品一二三区| 干丝袜人妻中文字幕| 男的添女的下面高潮视频| 插阴视频在线观看视频| 国产成人freesex在线| 国产国拍精品亚洲av在线观看| 丝袜喷水一区| 高清av免费在线| 午夜视频国产福利| 日韩成人av中文字幕在线观看| 日日摸夜夜添夜夜添av毛片| 免费观看性生交大片5| 免费无遮挡裸体视频| 日韩欧美精品免费久久| 亚洲中文字幕一区二区三区有码在线看| 亚洲四区av| 久久久久久九九精品二区国产| 午夜激情欧美在线| 亚洲国产精品sss在线观看| 麻豆av噜噜一区二区三区| ponron亚洲| 国产亚洲av嫩草精品影院| 大香蕉久久网| 青春草亚洲视频在线观看| 亚洲不卡免费看| 欧美日韩在线观看h| 亚洲成人久久爱视频| 美女脱内裤让男人舔精品视频| 免费大片18禁| 国产日韩欧美在线精品| 黄片无遮挡物在线观看| 免费搜索国产男女视频| 日韩欧美在线乱码| 97超视频在线观看视频| 成年av动漫网址| 亚洲av.av天堂| 免费观看精品视频网站| 日韩强制内射视频| 成人高潮视频无遮挡免费网站| 91久久精品国产一区二区成人| 最近中文字幕2019免费版| 男人和女人高潮做爰伦理| 中文天堂在线官网| 超碰97精品在线观看| 热99在线观看视频| 又爽又黄a免费视频| 亚洲18禁久久av| 麻豆一二三区av精品| 在线观看美女被高潮喷水网站| 人妻制服诱惑在线中文字幕| 男插女下体视频免费在线播放| 一级二级三级毛片免费看| www日本黄色视频网| 在现免费观看毛片| .国产精品久久| 久久99热这里只频精品6学生 | 国产探花极品一区二区| 天堂√8在线中文| 久久人妻av系列| 色综合亚洲欧美另类图片| 欧美另类亚洲清纯唯美| 97人妻精品一区二区三区麻豆| 九九爱精品视频在线观看| 亚洲精品乱久久久久久| 亚洲精华国产精华液的使用体验| 一区二区三区四区激情视频| 日本-黄色视频高清免费观看| 成人性生交大片免费视频hd| 黄片无遮挡物在线观看| 又爽又黄a免费视频| 国产黄a三级三级三级人| 91狼人影院| 国产精品久久视频播放| 两个人的视频大全免费| 婷婷色av中文字幕| 国产精品,欧美在线| 可以在线观看毛片的网站| 一级毛片久久久久久久久女| 最近中文字幕2019免费版| 午夜爱爱视频在线播放| 精华霜和精华液先用哪个| 亚洲国产精品国产精品| 九色成人免费人妻av| 特级一级黄色大片| 最近手机中文字幕大全| 日本五十路高清| 免费黄网站久久成人精品| 亚洲18禁久久av| 尾随美女入室| 国产毛片a区久久久久| 能在线免费看毛片的网站| 午夜福利高清视频| 亚洲国产成人一精品久久久| 国产男人的电影天堂91| 搞女人的毛片| 免费观看的影片在线观看| 欧美又色又爽又黄视频| 国产在线一区二区三区精 | 老师上课跳d突然被开到最大视频| 国产精品三级大全| 99久久九九国产精品国产免费| 99久久精品国产国产毛片| 日产精品乱码卡一卡2卡三| 久久精品国产亚洲av天美| 欧美精品国产亚洲| 国产伦理片在线播放av一区| 性色avwww在线观看| 神马国产精品三级电影在线观看| 日本三级黄在线观看| 国产一区二区在线av高清观看| 日韩,欧美,国产一区二区三区 | 中文欧美无线码| 中文在线观看免费www的网站| 久久久久久国产a免费观看| 欧美激情久久久久久爽电影| 亚洲四区av| 91aial.com中文字幕在线观看| 老师上课跳d突然被开到最大视频| 国产视频首页在线观看| 亚洲av二区三区四区| 日韩 亚洲 欧美在线| 午夜a级毛片| 成人欧美大片| 久久韩国三级中文字幕| 日韩一本色道免费dvd| 亚洲人成网站在线播| АⅤ资源中文在线天堂| 国产精品国产高清国产av| 亚洲国产色片| 免费播放大片免费观看视频在线观看 | 国产精品久久久久久久电影| 久久99热6这里只有精品| av免费在线看不卡| 国产午夜精品论理片| 男插女下体视频免费在线播放| 自拍偷自拍亚洲精品老妇| 老女人水多毛片| 免费看美女性在线毛片视频| 亚洲第一区二区三区不卡| 成人二区视频| 欧美精品国产亚洲| www.av在线官网国产| 成人性生交大片免费视频hd| 精品国产三级普通话版| 午夜视频国产福利| 97热精品久久久久久| 国产av在哪里看| 丝袜喷水一区| 久久99热这里只频精品6学生 | 一区二区三区乱码不卡18| av在线观看视频网站免费| 国产 一区 欧美 日韩| 亚洲av一区综合| 寂寞人妻少妇视频99o| 久久精品国产99精品国产亚洲性色| 精品午夜福利在线看| 伊人久久精品亚洲午夜| 午夜爱爱视频在线播放| 九九久久精品国产亚洲av麻豆| 国产成人午夜福利电影在线观看| 日韩高清综合在线| 欧美日韩在线观看h| 日韩视频在线欧美| 久久99热这里只频精品6学生 | 长腿黑丝高跟| 尾随美女入室| 91久久精品国产一区二区成人| 一区二区三区乱码不卡18| .国产精品久久| 嫩草影院入口| 夜夜看夜夜爽夜夜摸| 日本一二三区视频观看| 99视频精品全部免费 在线| 国产老妇伦熟女老妇高清| 亚洲真实伦在线观看| 一级av片app| 亚洲欧美成人综合另类久久久 | 日本五十路高清| 免费看日本二区| 99热网站在线观看| 韩国高清视频一区二区三区| 男人舔女人下体高潮全视频| 国产精品永久免费网站| 免费播放大片免费观看视频在线观看 | 亚洲一区高清亚洲精品| 国产一区二区在线观看日韩| 亚洲精品一区蜜桃| 最近最新中文字幕免费大全7| 亚洲丝袜综合中文字幕| 精品免费久久久久久久清纯| 日本免费在线观看一区| 69av精品久久久久久| 你懂的网址亚洲精品在线观看 | 亚洲精品久久久久久婷婷小说 | 国产免费一级a男人的天堂| 欧美丝袜亚洲另类| 久久精品人妻少妇| 精品一区二区三区视频在线| 亚洲精品亚洲一区二区| 色视频www国产| 国产精品,欧美在线| 久久久久免费精品人妻一区二区| 久久99热这里只频精品6学生 | 国产精品精品国产色婷婷| 欧美日韩综合久久久久久| 人妻少妇偷人精品九色| av国产免费在线观看| 久久精品国产亚洲av天美| 一边亲一边摸免费视频| 天天一区二区日本电影三级| 在现免费观看毛片| 日韩中字成人| 啦啦啦观看免费观看视频高清| 舔av片在线| 夫妻性生交免费视频一级片| 一级黄片播放器| 七月丁香在线播放| av在线亚洲专区|