• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    道德行動(dòng)體:人工智能新聞中的算法道德功能及其可能性

    2024-05-29 17:16:48鄭久良
    天府新論 2024年2期
    關(guān)鍵詞:智能算法意向性自主性

    鄭久良

    一、引 言

    如今,以AI、ChatGPT、大數(shù)據(jù)等技術(shù)為支撐的智能傳播對(duì)新聞業(yè)產(chǎn)生了顛覆性的變革和全局性的影響,我們迎來了新聞生產(chǎn)和傳播的AIGC時(shí)代。人工智能新聞在給新聞業(yè)帶來巨大生機(jī)和豐富可能性的同時(shí),也不可避免地產(chǎn)生諸多倫理問題,如算法偏見、隱私泄漏、虛假新聞等。對(duì)于智能新聞的倫理治理成為學(xué)界和業(yè)界共同關(guān)注的焦點(diǎn)。然而,傳統(tǒng)的倫理學(xué)基本遵循“人本主義”的研究進(jìn)路,將智能技術(shù)或媒介看成工具性的客體,從技術(shù)/媒介負(fù)面后果批判的外在角度進(jìn)行倫理審思式治理,而這種倫理觀念和治理方式在人機(jī)共生的智能新聞時(shí)代面臨諸多挑戰(zhàn)和困境。后現(xiàn)象技術(shù)哲學(xué)基于“人—技術(shù)”關(guān)系的存在主義哲學(xué)分析,重新審視智能技術(shù)/媒介的本體論和認(rèn)識(shí)論,從關(guān)系本體論和技術(shù)現(xiàn)象學(xué)角度提出技術(shù)的道德行動(dòng)體功能,并在人與技術(shù)伴隨之中重新審視技術(shù)倫理學(xué)。這一新興技術(shù)倫理學(xué)打破了主客二元對(duì)立的認(rèn)識(shí)論,從“非人本主義”研究進(jìn)路提出道德規(guī)范內(nèi)嵌于技術(shù)設(shè)計(jì)的前思式倫理治理方案。那么,這種技術(shù)倫理研究范式是否具有理論的合法性和實(shí)踐的建構(gòu)性呢?

    一般而言,人工智能新聞的發(fā)展離不開數(shù)據(jù)、算力和算法三要素,其中數(shù)據(jù)和算力都以算法為基石,可以說智能算法居于三者的核心。我們究竟該如何認(rèn)識(shí)智能算法?算法是一種傳播主體嗎?算法是否具有道德意義層面的功能?這些問題成為人工智能新聞倫理審視的關(guān)鍵。圍繞人工智能新聞倫理治理的這一中觀話題,本研究以智能算法為微觀切入口,在辨析媒介技術(shù)價(jià)值觀的基礎(chǔ)上,借鑒技術(shù)哲學(xué)領(lǐng)域的技術(shù)調(diào)解相關(guān)理論,嘗試分析智能算法的道德行動(dòng)體功能、道德主體及其可能性,旨在為人工智能新聞倫理治理理念和范式轉(zhuǎn)型提供算法技術(shù)倫理研究的“另類”方案。

    二、認(rèn)識(shí)論轉(zhuǎn)變:三種主流媒介技術(shù)價(jià)值觀辨析

    智能算法是一種傳播主體嗎?在人工智能新聞時(shí)代,算法技術(shù)的價(jià)值觀面臨怎樣的挑戰(zhàn)?它又該如何重新建構(gòu)呢?本部分內(nèi)容對(duì)媒介技術(shù)的價(jià)值觀進(jìn)行辨析。價(jià)值觀是在媒介技術(shù)本體論和認(rèn)識(shí)論基礎(chǔ)上,對(duì)于媒介技術(shù)價(jià)值的性質(zhì)、構(gòu)成及其評(píng)判進(jìn)行研究,表現(xiàn)為媒介對(duì)社會(huì)關(guān)系、人際交往和文明形態(tài)等方面的影響。在傳播學(xué)研究的既有框架中,對(duì)于媒介技術(shù)的價(jià)值觀界定主要有三種:一是基于媒介工具論的技術(shù)決定論;二是基于媒介社會(huì)形塑的技術(shù)建構(gòu)論;三是基于實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)論。其中,第三種是近年來剛興起不久的研究命題。

    第一種是媒介技術(shù)工具論。這種思想由來已久,根植于人類中心主義的價(jià)值立場和主客二元對(duì)立的認(rèn)識(shí)論。有學(xué)者認(rèn)為,長期以來,大眾傳播研究僅僅將媒介技術(shù)視作與人相對(duì)的工具和信息載體,忽視傳播內(nèi)容背后的媒介基礎(chǔ)設(shè)施體系。(1)胡翼青、王沐之:《發(fā)現(xiàn)界面:審視媒介的新路徑》,《湖南師范大學(xué)社會(huì)科學(xué)學(xué)報(bào)》2022年第6期。在傳播學(xué)學(xué)科建制中,傳播研究學(xué)者更多用實(shí)體性或功能性的視角而不是現(xiàn)象學(xué)或存在主義的視角來理解媒介,媒介被窄化和泛化為實(shí)體化或功能化的,主流傳播學(xué)將視野聚焦在實(shí)體媒介組織或具體媒介形態(tài)的研究,要么是功能主義的研究,要么是媒介效果研究。(2)胡翼青:《顯現(xiàn)的實(shí)體抑或意義的空間:反思傳播學(xué)的媒介觀》,《國際新聞界》2018年第2期。媒介技術(shù)工具論的價(jià)值觀對(duì)于媒介技術(shù)價(jià)值的性質(zhì)、關(guān)系及其評(píng)判過于窄化,更多聚焦在功能主義層面,將作為實(shí)體或渠道的媒介作為研究重點(diǎn),考察媒介實(shí)體化功能的傳播效果,這種結(jié)構(gòu)功能主義的研究傳統(tǒng)遮蔽了媒介技術(shù)作為意義隱喻、關(guān)系連接和存在方式的諸多認(rèn)知面向,往往會(huì)陷入媒介技術(shù)決定論的窠臼,不論這種技術(shù)后果是積極的還是消極的。很顯然,智能算法已經(jīng)跳脫出傳播工具論的藩籬,算法媒介技術(shù)不僅構(gòu)成人的媒介化生存境遇,也對(duì)人的社會(huì)交往及社會(huì)行動(dòng)產(chǎn)生重要影響,算法技術(shù)價(jià)值觀遠(yuǎn)遠(yuǎn)超出功能主義的視角。

    第二種是媒介技術(shù)建構(gòu)論。這種思想將媒介技術(shù)作為社會(huì)建構(gòu)的產(chǎn)物,媒介是作為權(quán)力、資本、意識(shí)形態(tài)等爭奪博弈的結(jié)果。社會(huì)建構(gòu)論傳統(tǒng)重視從社會(huì)層面理解媒介技術(shù),將媒介看成社會(huì)互動(dòng)的結(jié)果。誠然,這種價(jià)值觀看到了媒介技術(shù)并非價(jià)值中立或價(jià)值無涉的工具,本身帶有社會(huì)層面的多元影響因素,看到了媒介技術(shù)的社會(huì)環(huán)境背景。這種研究在一定程度上根植于知識(shí)社會(huì)學(xué)的思想。知識(shí)社會(huì)學(xué)將現(xiàn)實(shí)的社會(huì)建構(gòu)作為分析對(duì)象,論述日常生活的知識(shí)基礎(chǔ),討論與人類存在的生物性前提有關(guān)的客體化和制度化問題,(3)彼得·L. 伯格、托馬斯·盧克曼:《現(xiàn)實(shí)的社會(huì)建構(gòu):知識(shí)社會(huì)學(xué)論綱》,吳肅然譯,北京大學(xué)出版社,2019年,第235頁。展開社會(huì)與人的關(guān)系的探討。但這種價(jià)值觀相對(duì)忽視媒介對(duì)于社會(huì)現(xiàn)實(shí)的中介化建構(gòu),且“社會(huì)—現(xiàn)實(shí)”之間缺少媒介的身影。因此,英國的尼克·庫爾德利和德國的安德烈亞斯·赫普在其合著的《現(xiàn)實(shí)的中介化建構(gòu)》一書中,試圖全面思考社會(huì)生活和社會(huì)的本質(zhì)是如何因媒介的介入而發(fā)生變化的,并提出“深度媒介化”的概念,描述了基于數(shù)字媒介及其基礎(chǔ)設(shè)施構(gòu)建起當(dāng)今社會(huì)的一個(gè)基本事實(shí):社會(huì)生活中的每個(gè)要素都涉及某種類型的媒介,社會(huì)現(xiàn)實(shí)的建構(gòu)本身與數(shù)字媒介機(jī)構(gòu)帶來的全部權(quán)力關(guān)系及基礎(chǔ)設(shè)施問題密不可分。(4)尼克·庫爾德利、安德烈亞斯·赫普:《現(xiàn)實(shí)的中介化建構(gòu)》,劉泱育譯,復(fù)旦大學(xué)出版社,2023年,第1—2頁。這在一定程度上彌補(bǔ)了知識(shí)社會(huì)學(xué)對(duì)媒介與傳播討論的不足。媒介化研究作為媒介社會(huì)學(xué)的經(jīng)典命題,重塑了現(xiàn)代社會(huì)媒介對(duì)社會(huì)和文化帶來的革命性的問題及其影響。關(guān)于媒介化的研究,學(xué)者們從不同層面做了提煉總結(jié),厘清了媒介化的發(fā)展歷程和學(xué)術(shù)脈絡(luò)。侯東陽、高佳等人從物質(zhì)、制度和社會(huì)建構(gòu)三個(gè)視角,闡釋媒介化理論中的媒介邏輯、塑型力、元過程和媒介化過程。(5)侯東陽、高佳:《媒介化理論及研究路徑、適用性》,《新聞與傳播研究》2018年第5期。顧燁燁、莫少群等人對(duì)媒介化研究進(jìn)行理論溯源和歷時(shí)性梳理,認(rèn)為媒介化研究根植于齊美爾、吉登斯等人的思想,在吸收現(xiàn)象學(xué)社會(huì)學(xué)、符號(hào)互動(dòng)論的基礎(chǔ)上,形成了以夏瓦為代表的制度化與以克羅茲、赫普為代表的社會(huì)建構(gòu)這兩大研究路徑。(6)顧燁燁、莫少群:《媒介化研究:理論溯源與研究路徑》,《全球傳媒學(xué)刊》2022年第2期。在人工智能新聞時(shí)代,智能算法媒介技術(shù)已經(jīng)構(gòu)成深度媒介化的場景,算法對(duì)人與社會(huì)的影響已經(jīng)突破傳統(tǒng)的社會(huì)建構(gòu)主義,智能算法的媒介邏輯、媒介制度及社會(huì)的中介化建構(gòu)成為重要的現(xiàn)實(shí)。因此,建構(gòu)主義傳統(tǒng)的媒介技術(shù)價(jià)值觀也面臨著新的適應(yīng)性危機(jī)和合理性調(diào)適。

    第三種是實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)論。近年來,傳播與媒介研究的實(shí)踐轉(zhuǎn)向逐漸受到學(xué)者們的關(guān)注,主要對(duì)該范式涉及的理論脈絡(luò)、研究對(duì)象、主要進(jìn)路、研究方法、價(jià)值啟示進(jìn)行系統(tǒng)化的梳理和提煉。在理論脈絡(luò)上,顧潔等學(xué)者都有所研究,認(rèn)為實(shí)踐一直是西方社會(huì)學(xué)理論中的關(guān)鍵概念,吉登斯、布爾迪厄是實(shí)踐理論研究的重要代表,夏茲金、里克維茲和拉圖爾是新開拓者。(7)顧潔:《媒介研究的實(shí)踐范式:框架、路徑與啟示》,《新聞與傳播研究》2018年第6期。英國學(xué)者尼克·庫爾德利在2004年發(fā)表的《媒介的實(shí)踐化理論》一文中,首次將實(shí)踐理論引入媒介研究領(lǐng)域。(8)N. Couldry,“Theorising Media as Practice,”Social Semiotics,Vol.14,No.2,2004.庫爾德利的“實(shí)踐范式”在很大程度上改變了人們對(duì)于媒介意涵的認(rèn)識(shí),將媒介從生產(chǎn)結(jié)構(gòu)或文本層面拓展到實(shí)踐行為,與媒介相關(guān)的所有開放的實(shí)踐行為類型及媒介對(duì)其他社會(huì)實(shí)踐行為的影響作用都構(gòu)成實(shí)踐范式的研究面向。(9)齊愛軍:《尼克·庫爾德利:媒介研究的“實(shí)踐范式”轉(zhuǎn)向》,《山東社會(huì)科學(xué)》2017年第1期。2010 年,布勞克勒與波斯蒂爾在《媒介與實(shí)踐的理論建構(gòu)》一書中全面介紹了媒介實(shí)踐理論,將媒介與日常生活、媒介與身體、媒介生產(chǎn)作為實(shí)踐研究的三大領(lǐng)域。(10)B. Br?uchler,J. Postill(eds.),Theorising Media and Practice,New York:Berghahn Books,2010,pp.1-32.在研究對(duì)象和主要進(jìn)路上,項(xiàng)楊春等學(xué)者研究發(fā)現(xiàn),實(shí)踐理論為媒介與傳播研究的范式創(chuàng)新提供了路徑,媒介實(shí)踐研究范式根植于“社會(huì)實(shí)踐”本體論和“實(shí)踐元素”認(rèn)識(shí)論的理論淵源,跳脫出傳統(tǒng)媒介傳播研究的受眾與文本、媒介與結(jié)構(gòu)的二元論窠臼,從微觀、中觀和宏觀三個(gè)層面指出媒介實(shí)踐范式的研究進(jìn)路,分別為行動(dòng)者的媒介實(shí)踐、媒介生產(chǎn)與傳播實(shí)踐以及媒介發(fā)展與影響實(shí)踐。(11)項(xiàng)楊春:《實(shí)踐范式下的媒介與傳播研究:淵源、進(jìn)路與綱要》,《新聞界》2022年第6期。在研究方法上,實(shí)踐范式研究以主客二元統(tǒng)一方法為主,其中,質(zhì)性研究方法應(yīng)用較為集中。在方法論上,實(shí)踐范式轉(zhuǎn)向的媒介研究側(cè)重于實(shí)踐建構(gòu)和組織過程的深度描摹和系統(tǒng)化的描述分析,不再聚焦于實(shí)證主義的社會(huì)現(xiàn)象因果關(guān)系分析。在價(jià)值啟示上,姜紅、顧潔、王潤澤等學(xué)者均有所論述。姜紅和印心悅認(rèn)為,在馬克思主義實(shí)踐哲學(xué)的引領(lǐng)下,實(shí)踐進(jìn)路的核心在于打破形而上學(xué)的本體論、認(rèn)識(shí)論和方法論,需要重新思考人與人、人與物以及人與世界的關(guān)系。實(shí)踐范式突破二元論的本體論、表象主義的認(rèn)識(shí)論和本質(zhì)主義的方法論弊端,即從傳統(tǒng)的二元論轉(zhuǎn)向多元互動(dòng)的關(guān)系建構(gòu),從表象式的靜觀轉(zhuǎn)向行動(dòng)導(dǎo)向的參與,從本質(zhì)主義的規(guī)范知識(shí)轉(zhuǎn)向描述性的經(jīng)驗(yàn)研究。(12)姜紅、印心悅:《走出二元:當(dāng)代新聞學(xué)的“實(shí)踐轉(zhuǎn)向”——問題、視野與進(jìn)路》,《安徽大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2021年第3期。馬克思主義實(shí)踐哲學(xué)對(duì)實(shí)在論和社會(huì)建構(gòu)論進(jìn)行了理論突破,對(duì)于媒介研究走出二元論和表象主義的束縛,走向過程和關(guān)系的實(shí)踐論有著重要的意義。(13)姜紅、印心悅:《作為“實(shí)踐”的新聞——一個(gè)后科學(xué)知識(shí)社會(huì)學(xué)的視角》,《國際新聞界》2021年第8期。顧潔認(rèn)為,實(shí)踐理論關(guān)注與人相關(guān)的“精神”元素和其他重要的“非精神”元素,將復(fù)雜社會(huì)空間的主客觀組成元素之間的互動(dòng)與協(xié)商作為重點(diǎn),從而跳脫出“文本—受眾—效果”研究的傳統(tǒng)框架。(14)顧潔:《媒介研究的實(shí)踐范式:框架、路徑與啟示》,《新聞與傳播研究》2018年第6期。立足數(shù)字時(shí)代的傳播實(shí)踐,實(shí)踐范式轉(zhuǎn)向以主體間性作為重構(gòu)新聞價(jià)值的切入點(diǎn),以對(duì)話和溝通為基礎(chǔ),新聞作為連接人與現(xiàn)實(shí)世界的中介,具有形塑社會(huì)認(rèn)知、確立交往規(guī)范的功能。(15)王潤澤、常崢:《新聞學(xué)元問題的實(shí)踐轉(zhuǎn)向與價(jià)值重構(gòu)》,《中國編輯》2023年第1—2期。在智能傳播時(shí)代,實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)觀對(duì)理解算法技術(shù)的本體論、認(rèn)識(shí)論和方法論提供了重要的理論指引,算法技術(shù)應(yīng)當(dāng)作為一種媒介實(shí)踐去認(rèn)識(shí),而非僅僅基于技術(shù)工具論或社會(huì)建構(gòu)論的傳統(tǒng)來理解。

    當(dāng)前,對(duì)于智能算法技術(shù)的認(rèn)識(shí)論在媒體變遷之下發(fā)生了顯著的變化,媒介技術(shù)價(jià)值觀已由技術(shù)工具論過渡到社會(huì)建構(gòu)論,再到實(shí)踐范式轉(zhuǎn)向。很顯然,傳統(tǒng)的認(rèn)識(shí)論已經(jīng)難以適應(yīng)當(dāng)下的媒介現(xiàn)實(shí),智能算法已經(jīng)躍升為媒介化生存的積極行動(dòng)者,對(duì)于算法的理解應(yīng)當(dāng)突破傳統(tǒng)結(jié)構(gòu)功能主義、政治經(jīng)濟(jì)批判和符號(hào)互動(dòng)論的視角,從存在主義現(xiàn)象學(xué)視角重構(gòu)媒介及其可能性,基于媒介實(shí)踐范式解構(gòu)和建構(gòu)媒介技術(shù)研究的框架。

    三、道德行動(dòng)體:算法道德功能的界定標(biāo)準(zhǔn)

    實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)價(jià)值觀,對(duì)于人與物的關(guān)系、媒介的能動(dòng)性、主體間性、人與媒介的關(guān)系互動(dòng)論等問題都有所討論,讓人們不禁重新思考:算法技術(shù)作為一種非人類的行動(dòng)者,是否具備道德意義上的功能?算法技術(shù)的道德功能與人的道德行為有何關(guān)聯(lián)?此部分將對(duì)算法技術(shù)的道德功能界定標(biāo)準(zhǔn)展開研究。

    談及道德功能或道德地位,幾乎都是指涉人類主體,非人類主體很少被界定為道德主體,因?yàn)檫@與傳統(tǒng)意義上的道德主體的界定相矛盾,諸如媒介技術(shù)的非人類主體很難具有道德意識(shí)和承擔(dān)道德責(zé)任的能力,這種能力是人獨(dú)有的。這種理解長期籠罩在學(xué)術(shù)研究的主流話語之中,表面上看起來是這么回事,但其出發(fā)點(diǎn)忽略了一個(gè)重要前提,即人與技術(shù)互動(dòng)關(guān)系的社會(huì)現(xiàn)實(shí)。對(duì)于道德主體的界定,我們不能夠先入為主地預(yù)設(shè)主客二元對(duì)立的立場,技術(shù)人工物或媒介技術(shù)的道德功能并非純客體的意志或道德責(zé)任的還原,而是需要在人與媒介技術(shù)的關(guān)系中解讀其道德功能,從互主體性的關(guān)系角度打破人類中心主義的主體性,需要從后現(xiàn)象學(xué)存在主義的出發(fā)點(diǎn)重新思考道德主體的可能性與可行性。故此,傳統(tǒng)道德倫理的方法論也面臨變革的挑戰(zhàn)。

    何為道德主體呢?傳統(tǒng)倫理學(xué)理論的強(qiáng)綱領(lǐng)給出了人本主義的標(biāo)準(zhǔn)。不論是康德“道德律令”的義務(wù)論,或是“有利于多數(shù)人幸福感實(shí)現(xiàn)”的后果論,還是邊沁等人的功利主義視角,從來都是將人類視為道德主體,自由、責(zé)任、意向這些概念很少跟物或技術(shù)相關(guān)聯(lián)。這種研究思路存在一些不足。一是理論脫離實(shí)際。智能算法的技術(shù)變革已經(jīng)突破傳統(tǒng)的經(jīng)驗(yàn)認(rèn)識(shí)范疇,研究學(xué)者如果對(duì)于新的媒介技術(shù)認(rèn)知不清而因循守舊,將人工智能新聞倫理簡化為傳統(tǒng)倫理方法在算法領(lǐng)域的直接應(yīng)用,很難真正解決智能新聞面臨的實(shí)際問題。二是跨學(xué)科的整合不足。社會(huì)學(xué)、法學(xué)、新聞傳播學(xué)、技術(shù)哲學(xué)和政治學(xué)都在關(guān)注算法應(yīng)用的倫理問題,但是不同學(xué)科之間的方法相互割裂甚至自相矛盾,方法的借鑒和整合不足。對(duì)此,后現(xiàn)象技術(shù)哲學(xué)家們?cè)噲D從技術(shù)物的角度,對(duì)于“物”的道德主體界定進(jìn)行重新審視,突破人本主義的倫理學(xué)研究視域。

    近年來,不少技術(shù)哲學(xué)領(lǐng)域的學(xué)者對(duì)技術(shù)物的道德相關(guān)性展開研究,如蘭登·溫納的人工物的政治、布魯諾·拉圖爾的非人類行動(dòng)者、阿爾伯特·伯格曼的技術(shù)與美好生活、盧恰諾·弗洛里迪和桑德斯的人工道德能動(dòng)性等思想。溫納在其1986年出版的《鯨魚與反應(yīng)堆》一書中分析了很多“充滿政治”的技術(shù),他所列舉的著名案例就是“摩西的橋”。 “摩西的橋”指的是紐約州一些具有“種族歧視”特色的低懸天橋,它們是通往瓊斯海灘景觀的必經(jīng)途徑,這些天橋由建筑師羅伯特·摩西蓄意設(shè)計(jì),目的是不讓公共汽車通過,僅能讓私家車通行,旨在阻止黑人進(jìn)入瓊斯海灘,因?yàn)槟菚r(shí)多數(shù)美國黑人買不起車子。摩西找到了一條展示其政治信念的物質(zhì)途徑,此案例顯示了物質(zhì)的人工物是如何具有明顯的道德維度的政治影響。溫納認(rèn)為,技術(shù)以一種物質(zhì)的方式體現(xiàn)人的意志,技術(shù)是建構(gòu)我們世界秩序的方式,一些技術(shù)在人類有意圖的主動(dòng)性引導(dǎo)下促成秩序的形成。技術(shù)的道德意蘊(yùn)在拉圖爾那里更加受到重視,其在1992年發(fā)表的題為《迷失的大眾在何處?少許塵世人工物的社會(huì)學(xué)》的論文中,闡述了道德不應(yīng)被視為人類獨(dú)有事物的觀點(diǎn),道德的“迷失”尋找不是在人之內(nèi)而是在物之中。他給的例子是“減速帶”,當(dāng)一個(gè)人做出開車多快的道德決定,很多時(shí)候是由路上的減速帶決定的,減速帶提醒人們?cè)摐p速了。拉圖爾賦予物質(zhì)性的人工物道德屬性并意圖打破人與非人之間的界限,其行動(dòng)者網(wǎng)絡(luò)理論表明,行動(dòng)者以多種方式交互并不斷轉(zhuǎn)譯,人和非人都可以是行動(dòng)者,非人形成規(guī)定技術(shù)使用者以特定方式行動(dòng)的“腳本”。技術(shù)不應(yīng)該僅從功能性的角度來解讀,它不僅是幫助人類意向在物質(zhì)世界中得以實(shí)現(xiàn)的中介,更是積極地促進(jìn)現(xiàn)實(shí)塑形的調(diào)解者。這不是意味著技術(shù)即為道德行動(dòng)者,而是在其功能發(fā)揮中被賦予某種道德屬性。按照拉圖爾的觀點(diǎn),算法技術(shù)理應(yīng)成為形式化的智能體(moral-agent),技術(shù)倫理研究將技術(shù)的載體看成具有道德的行動(dòng)者,由“屬人”轉(zhuǎn)向“屬物”的對(duì)稱性倫理。伯格曼在關(guān)于技術(shù)的社會(huì)和文化作用中,闡述了我們的文化是如何被“裝置范式”的技術(shù)來規(guī)約的。他在《物質(zhì)文化的道德相關(guān)性》一文中,論述了裝置范式理論如何使物質(zhì)客體的道德維度體現(xiàn)出來,聚焦于物質(zhì)文化在人類實(shí)踐中的作用,并對(duì)物質(zhì)文化如何左右和限制實(shí)踐進(jìn)行揭示,即物質(zhì)的客體促進(jìn)著人類實(shí)踐的塑形。人類行動(dòng)和生活不是處在真空之中,而是發(fā)生在人和塑形我們的行動(dòng)及生活方式的物的真實(shí)世界之中,因此美好生活的實(shí)現(xiàn)不僅基于人類的意向和觀念,而且離不開物質(zhì)的人工物及其擺置。

    在深度媒介化時(shí)代,我們已經(jīng)無法忽視人工智能新聞對(duì)于人類生活和社會(huì)領(lǐng)域的全局性影響和建設(shè)性功能,算法媒介化生存的境況預(yù)示著算法的能動(dòng)性,算法不能僅被視為價(jià)值中立的工具,而是具有價(jià)值負(fù)載的存在物,能夠?qū)θ说拇嬖诜绞胶褪澜绲某尸F(xiàn)方式產(chǎn)生重要的影響。弗洛里迪和桑德斯在2004年發(fā)表的《關(guān)于人工能動(dòng)者的道德》一文中,闡釋了一種理解能動(dòng)性概念及人工物能動(dòng)性的新的分析框架,提出“抽象層次”方法。根據(jù)行動(dòng)者之間互動(dòng)關(guān)系的標(biāo)準(zhǔn),弗洛里迪等人以“抽象層次”方法為基礎(chǔ),對(duì)判別一種物能否成為能動(dòng)者給出判斷標(biāo)準(zhǔn):交互性、自主性和調(diào)適性。交互性指的是由刺激引發(fā)狀態(tài)改變的反應(yīng),自主性是指在沒有刺激下能改變狀態(tài)的能力,調(diào)適性是指因狀態(tài)被改變而改變“規(guī)則轉(zhuǎn)譯”的能力。這意味著在沒有外部刺激響應(yīng)的情況下,與環(huán)境有所交互的技術(shù)也能夠具有行動(dòng)的能力,那么這種技術(shù)可以被看成一個(gè)行動(dòng)者。由上述分析可知,將技術(shù)視為道德行動(dòng)者的標(biāo)準(zhǔn)不在于技術(shù)本身所具有的自由、意向性、意識(shí)等,而是技術(shù)在其他行動(dòng)者的關(guān)聯(lián)中所具有的能動(dòng)性和道德,即在使用技術(shù)時(shí)能產(chǎn)生道德能動(dòng)性的不僅有人類,還有人與非人元素的雜交。

    簡言之,在關(guān)于技術(shù)道德相關(guān)性的研究中,技術(shù)的道德調(diào)解者分析成為一種新的理論范式。該范式?jīng)]有將技術(shù)所具有的道德行動(dòng)和決策作用還原為人類意圖,也沒有將道德視為技術(shù)自身的屬性,道德行動(dòng)和決定是“人—技術(shù)”關(guān)聯(lián)的產(chǎn)物。在道德功能的界定中,作為技術(shù)調(diào)解理論集大成者的維貝克認(rèn)為,意向性和實(shí)現(xiàn)意向性的自由被視為道德能動(dòng)性的必要條件,技術(shù)物道德行動(dòng)體的可能性體現(xiàn)在其對(duì)人的行為和知覺的調(diào)解機(jī)制。國內(nèi)學(xué)者陳凡和賈璐萌將道德行動(dòng)體的界定標(biāo)準(zhǔn)分為因果效應(yīng)(對(duì)事務(wù)產(chǎn)生實(shí)質(zhì)性影響)、代理(代表個(gè)體或群體而行動(dòng))和道德自主性 (行動(dòng)本身具有理性和自由意志)。(16)陳凡、賈璐萌:《技術(shù)倫理學(xué)新思潮探析——維貝克“道德物化”思想述評(píng)》,《科學(xué)技術(shù)哲學(xué)研究》2015年第6期。蘆文龍?zhí)岢鱿嘟呐袛鄻?biāo)準(zhǔn),他認(rèn)為存在物成為道德行動(dòng)體的必要條件是其意向性和自主性,技術(shù)人工物基于技術(shù)功能和物理結(jié)構(gòu)兩重性之上的三元意向性、基于技術(shù)中介理論的差異自主性,使其滿足了成為道德行動(dòng)體的必要條件。(17)蘆文龍:《技術(shù)人工物作為道德行動(dòng)體:可能性、存在狀態(tài)及倫理意涵》,《自然辯證法研究》2016年第8期。整體而言,在技術(shù)調(diào)解理論下,算法技術(shù)具有成為道德行動(dòng)者的可行性,判斷的標(biāo)準(zhǔn)要在“人—技術(shù)”關(guān)聯(lián)的情境中考察其意向性、自由和自主性。

    然而,技術(shù)人工物的能動(dòng)性各有差異,它們的道德地位也不盡相同。從最簡單的技術(shù)工具到高度智能化的機(jī)器人,人工物的道德地位應(yīng)該區(qū)別對(duì)待。其中,詹姆斯·摩爾將人工物分為四個(gè)類別:有倫理影響的能動(dòng)者、隱性的倫理能動(dòng)者、明顯的倫理能動(dòng)者、完全的倫理能動(dòng)者。(18)J.H. Moor,“The Nature,Importance,and Difficulty of Machine Ethics,”IEEE Intelligent Systems,Vol.21,No.2,2006.有倫理影響的能動(dòng)者指不論人工物是否有內(nèi)置的倫理規(guī)范或人工倫理系統(tǒng),其行為本身都能產(chǎn)生倫理影響;隱性的倫理能動(dòng)者指在設(shè)計(jì)中內(nèi)置有暗含的倫理考量的人工物主體;明顯的倫理能動(dòng)者是指根據(jù)不同情境辨析和處理與倫理相關(guān)的信息,并對(duì)行動(dòng)做出具有倫理敏感性的決定;完全的倫理能動(dòng)者是指具有意識(shí)、意向性和自由意志的人。(19)J.H. Moor,“Four Kinds of Ethical Robots,” Philosophy Now,Vol.72,2009.張衛(wèi)根據(jù)人工物的能動(dòng)性強(qiáng)弱和負(fù)載倫理價(jià)值的程度,將人工物分成四種類型:第一,倫理價(jià)值無涉的人工物;第二,負(fù)載倫理價(jià)值的人工物;第三,無道德客體身份的道德主體;第四,有道德客體身份的道德主體。其中,第一種指的是在倫理空間中處于“道德工具”的道德地位;第二種指的是在倫理空間中處于“道德中介”的道德地位;第三種指的是在倫理空間中處于“人工道德主體”的道德地位;第四種指的是在倫理空間中處于“完全道德主體”的道德地位。(20)張衛(wèi):《內(nèi)在主義技術(shù)倫理學(xué)研究》,人民出版社,2023年,第105—106頁。賈璐萌和陳凡根據(jù)自主程度和倫理意向性兩條標(biāo)準(zhǔn),將技術(shù)調(diào)解中的倫理主體分成三類:基于平凡物的操作型道德能動(dòng)體、基于智能體的功能型道德能動(dòng)體和基于人類行動(dòng)者的倫理型道德能動(dòng)體,這三種道德行動(dòng)體的認(rèn)識(shí)和思維能力逐漸成熟,在倫理實(shí)踐中發(fā)揮的積極性和主動(dòng)性逐漸增強(qiáng)。(21)賈璐萌、陳凡:《技術(shù)調(diào)解下道德主體的重構(gòu)探究》,《自然辯證法研究》2018年第6期。由此可知,學(xué)者們關(guān)于智能人工物的道德地位已有頗具洞見性的探討,根據(jù)道德行動(dòng)體的界定標(biāo)準(zhǔn)及智能化程度,技術(shù)人工物具有不同程度的道德地位。算法技術(shù)作為具有一定智能化的技術(shù)人工物,其道德功能及地位可根據(jù)以上類型做相應(yīng)的分析。筆者認(rèn)為,在當(dāng)今大數(shù)據(jù)和人工智能高速發(fā)展的時(shí)代,智能算法的智能化程度越來越高,AIGC和大數(shù)據(jù)模型得到廣泛運(yùn)用,算法技術(shù)的自主性程度和能動(dòng)性越來越強(qiáng),智能算法技術(shù)的道德地位至少是隱性的倫理能動(dòng)者、無道德客體身份的道德主體、人工道德主體和面向人工智能體的功能型道德能動(dòng)體。智能算法的道德意涵及道德行動(dòng)者功能由此得以形成,傳統(tǒng)的人工智能新聞倫理研究范式及治理進(jìn)路迫切需要轉(zhuǎn)型。

    四、功能型算法道德主體的可能性分析

    判定算法能否成為道德主體,需要分析道德行動(dòng)體的判斷標(biāo)準(zhǔn),以及算法與人共同完成行為和決策的過程特性。對(duì)此,可借助意向性和自主性這兩個(gè)標(biāo)準(zhǔn)。

    第一,智能算法居間調(diào)解的混合意向性。在現(xiàn)象學(xué)中,意向性概念表現(xiàn)為人對(duì)現(xiàn)實(shí)的指向性,是理解人與世界關(guān)系的核心概念。唐·伊德認(rèn)為技術(shù)人工物的意向性是技術(shù)人工物作為中介者調(diào)節(jié)著相互建構(gòu)的人與世界之間的意向關(guān)系。維貝克進(jìn)一步指出,技術(shù)“意向性”包括其中介意向性(技術(shù)調(diào)節(jié)的人的意向關(guān)系)和自身的意向性?,F(xiàn)實(shí)中的意向性是人與技術(shù)人工物共有的“混合意向性”(22)Evan Selinger,Don Ihde,et al.,“Erratum to:Book Symposium on Peter Paul Verbeek′s Moralizing Technology Understanding and Designing the Morality of Things,” Philosophy & Technology,No.4,2012.,意味著人和技術(shù)都有參與的意向性發(fā)揮著作用。對(duì)于人工智能新聞而言,其意向性表現(xiàn)為算法技術(shù)與人共生的混合意向性。算法技術(shù)與新聞從業(yè)者通過雙向代理構(gòu)成共生關(guān)系,形成“人—算法”共生主體。在新聞生產(chǎn)各階段,算法在自然語言處理、數(shù)據(jù)挖掘和推送分發(fā)方面代替人類完成可計(jì)算的實(shí)踐,從業(yè)者則在高質(zhì)量的內(nèi)容生產(chǎn)、新聞價(jià)值的選擇和信息分發(fā)的監(jiān)督上體現(xiàn)能動(dòng)性。(23)張巖松、孫少晶:《人—算法共生主體:計(jì)算新聞生產(chǎn)網(wǎng)絡(luò)中的主體創(chuàng)新》,《編輯之友》2022年第3期。換句話說,人們?cè)谒惴夹g(shù)的中介中感知外部世界和進(jìn)行道德決策,算法執(zhí)行著技術(shù)設(shè)計(jì)者所預(yù)設(shè)的“腳本”并引導(dǎo)人們的行為決策,這帶來兩種可能的結(jié)果。一是個(gè)性化推薦算法帶來豐富的信息內(nèi)容和感官體驗(yàn),滿足受眾多樣化的興趣愛好,實(shí)現(xiàn)信息內(nèi)容與用戶需求的精準(zhǔn)匹配。智能算法中介使用戶的感官和知覺得以延伸,對(duì)世界的感知和體驗(yàn)得以強(qiáng)化,產(chǎn)生媒介知覺的“放大”效應(yīng)和媒介行為的“激勵(lì)”作用。二是算法推薦的不透明性、算法黑箱及算法偏見以一種隱蔽的方式固化甚至強(qiáng)化社會(huì)偏見,看似技術(shù)中立的算法程序不可避免地帶有研發(fā)人員和社會(huì)系統(tǒng)的偏見,影響新聞的客觀性和公共性。此外,高度迎合用戶閱讀趣味的信息內(nèi)容推薦會(huì)反向搭建封閉化、排他性的信息系統(tǒng),用戶長期的媒介接觸會(huì)誘發(fā)潛在的“信息繭房”“過濾起泡”問題,產(chǎn)生知覺的“縮小”和行為的“抑制”效應(yīng)。因此,智能算法的混合意向性表現(xiàn)為人與算法技術(shù)之間的共生關(guān)系,這里的人既包括算法技術(shù)設(shè)計(jì)者,也包括算法技術(shù)使用者,人在算法媒介之世存有的邏輯在于算法技術(shù)混合意向性的發(fā)揮,即算法技術(shù)設(shè)計(jì)者、算法技術(shù)本身和算法技術(shù)使用者的共同意向性使得智能算法的居間調(diào)解功能得以發(fā)揮。

    第二,算法技術(shù)自主性限定人的自主性。在人工智能新聞時(shí)代,算法與人共同構(gòu)成一種不可分割的“人—技”綜合存在。在這個(gè)綜合存在中,人所擁有的自主性不是絕對(duì)的和唯一的,算法技術(shù)也可擁有自主性?!叭恕惴ā钡木C合存在在認(rèn)識(shí)、解釋和改造外部世界時(shí),算法技術(shù)意向性要放置于這種存在的共有屬性中理解。與此相對(duì)應(yīng),算法技術(shù)自主性是人的自主性與算法技術(shù)自主性的綜合,兩者呈反比例關(guān)系,算法技術(shù)的自主性跟其智能化程度有密切關(guān)系,即算法智能化程度越高,人的自主性越低,反之亦然。正如李瑛琦認(rèn)為,網(wǎng)絡(luò)社會(huì)是以媒介技術(shù)為物質(zhì)基礎(chǔ)的、以“網(wǎng)絡(luò)化”邏輯為“技術(shù)秩序”的“技術(shù)化社會(huì)”,人的自主性存在于媒介技術(shù)的規(guī)定性之中;媒介技術(shù)的工具理性弱化了“人的自主性”。(24)李瑛琦:《“永久在線、永久連接”:網(wǎng)絡(luò)社會(huì)何以引發(fā)“人的自主性”危機(jī)?——基于“技術(shù)自主性”的審思》,《新聞界》2022年第6期。盡管算法技術(shù)自主性在一定程度上限定了人的自主性,但不意味著人的自主性的消解和算法技術(shù)的絕對(duì)自主,人的主體價(jià)值依然能夠通過恰當(dāng)?shù)睦硇苑绞脚c算法和諧共生。

    受限于人工智能新聞的智能化水平,當(dāng)下算法技術(shù)的自主性還相對(duì)有限,智能算法的道德主體成為功能型的道德行動(dòng)體。智能新聞通過協(xié)同過濾和內(nèi)容推薦實(shí)現(xiàn)信息供需的高效配對(duì),人們主動(dòng)搜索信息的行為被個(gè)性化算法推薦所替代,算法幫助用戶決定接受什么樣的內(nèi)容,在擬態(tài)環(huán)境中不斷培養(yǎng)用戶的世界觀和價(jià)值觀,輔助人們?cè)诓煌瑘鼍跋伦龀鲋匾男袨闆Q策,如大規(guī)模的空難新聞事件推薦抑制人們乘坐飛機(jī)出行的動(dòng)機(jī)。算法技術(shù)通過大數(shù)據(jù)分析,可以挖掘用戶畫像并推薦相關(guān)信息內(nèi)容,人們逐漸將自主性與能動(dòng)性的判斷決策轉(zhuǎn)移到算法,算法的數(shù)據(jù)化嵌入重塑人與人、人與社會(huì)之間的連接方式和互動(dòng)關(guān)系。從這個(gè)意義說,算法已經(jīng)擺脫了自主性較低、無法進(jìn)行道德認(rèn)知和判斷、只能遵循道德原則進(jìn)行活動(dòng)的操作型道德行動(dòng)體,而成為人工智能體的功能型道德行動(dòng)體。與操作型道德行動(dòng)體相比,算法道德行動(dòng)體的自主性程度有所提高,通過編程的技術(shù)程序設(shè)計(jì),能夠進(jìn)行一定程度的道德認(rèn)知與判斷思考,并能有效反應(yīng)。例如,通過計(jì)算機(jī)代碼編程的計(jì)算模型,算法技術(shù)可以模擬人類認(rèn)知思維,借助開放的大數(shù)據(jù)系統(tǒng),用以搜集信息、預(yù)測(cè)行動(dòng)后果,通過自定義響應(yīng)程序去應(yīng)對(duì)道德問題。以上論證了智能算法道德主體的可能性,算法技術(shù)的混合意向性和自主性構(gòu)成了算法道德主體的必要條件,智能算法在目前算得上是一種功能型的道德行動(dòng)體。

    五、結(jié) 語

    人工智能新聞中的算法道德功能及其可能性分析,對(duì)于智能新聞中的算法倫理治理具有重要的意義。一方面,智能算法作為道德意義的行動(dòng)體,突破了傳統(tǒng)倫理學(xué)中關(guān)于人類責(zé)任主體的固有認(rèn)識(shí),倫理產(chǎn)生于“人—算法(技術(shù))”相互伴隨的媒介化生存情境之中,關(guān)系本體論的算法技術(shù)具有居間調(diào)解的道德功能,這打破了傳統(tǒng)主體與客體二元對(duì)立的倫理本體認(rèn)識(shí)論;另一方面,智能算法的道德行動(dòng)體為構(gòu)建道德規(guī)范嵌入的“前思式”算法倫理治理思路提供了重要基礎(chǔ),有利于轉(zhuǎn)變傳統(tǒng)的事后治理的技術(shù)倫理批判思維,通過算法道德化設(shè)計(jì)的路徑負(fù)載算法技術(shù)倫理價(jià)值,從技術(shù)設(shè)計(jì)的“上游”預(yù)防倫理問題。在算法倫理實(shí)踐中,可以采用技術(shù)道德化設(shè)計(jì)中諸如“設(shè)計(jì)者道德想象力”“價(jià)值敏感設(shè)計(jì)”“擴(kuò)充建構(gòu)性技術(shù)評(píng)估”等方法,在算法技術(shù)預(yù)測(cè)、評(píng)估和設(shè)計(jì)環(huán)節(jié)中納入多元利益相關(guān)者的訴求,實(shí)施民主參與化設(shè)計(jì)和建構(gòu)性技術(shù)評(píng)估的路徑。需要指出的是,本文對(duì)于智能算法的道德行動(dòng)體功能的分析適應(yīng)于“弱人工智能”的當(dāng)下,難免會(huì)存在若干不足。在智能算法技術(shù)日漸成熟的未來,我們可以想象算法有可能上升為“強(qiáng)人工智能”,其道德地位則會(huì)朝向完全的道德行動(dòng)體。道德“嵌入式”的算法倫理治理思路如何突破倫理實(shí)踐中的困境?如何制定共識(shí)性的倫理價(jià)值原則?面對(duì)算法技術(shù)的“不確定性”該如何發(fā)揮其道德功能?發(fā)揮算法道德行動(dòng)體功能該如何界定其“行動(dòng)者網(wǎng)絡(luò)”中的倫理責(zé)任?這些問題無疑都值得我們進(jìn)一步思考,未來可在智能道德行動(dòng)體、算法技術(shù)倫理方法論、智能算法倫理責(zé)任、算法技術(shù)設(shè)計(jì)路徑等方面進(jìn)行深入研究。

    猜你喜歡
    智能算法意向性自主性
    神經(jīng)網(wǎng)絡(luò)智能算法在發(fā)電機(jī)主絕緣狀態(tài)評(píng)估領(lǐng)域的應(yīng)用
    基于超像素的圖像智能算法在礦物顆粒分割中的應(yīng)用
    從雞群算法看群體智能算法的發(fā)展趨勢(shì)
    改進(jìn)的多目標(biāo)快速群搜索算法的應(yīng)用
    淺析胡塞爾現(xiàn)象學(xué)的意向性結(jié)構(gòu)
    中國市場(2016年45期)2016-05-17 05:15:53
    英語學(xué)習(xí)的自主性及其教學(xué)應(yīng)用
    實(shí)用英語教材與藝術(shù)生自主性培養(yǎng)
    發(fā)揮主體作用,加強(qiáng)高中數(shù)學(xué)復(fù)習(xí)的自主性
    (簡論詩創(chuàng)作的意向性)
    “選擇中國共產(chǎn)黨”何以成為群眾集體意向性——讀《井岡山的斗爭》
    探索(2013年3期)2013-04-17 02:37:57
    日韩精品免费视频一区二区三区 | 天堂中文最新版在线下载| 热re99久久精品国产66热6| 简卡轻食公司| 最新的欧美精品一区二区| 久久精品国产a三级三级三级| 一级毛片电影观看| 人妻人人澡人人爽人人| 激情五月婷婷亚洲| 自拍欧美九色日韩亚洲蝌蚪91| 韩国高清视频一区二区三区| 免费观看av网站的网址| 少妇人妻 视频| av在线app专区| 三级国产精品片| 午夜福利影视在线免费观看| 午夜免费鲁丝| 午夜免费鲁丝| 成人国产av品久久久| 99久久精品国产国产毛片| 自拍欧美九色日韩亚洲蝌蚪91| 成人综合一区亚洲| 丝袜在线中文字幕| 看十八女毛片水多多多| 妹子高潮喷水视频| 啦啦啦在线观看免费高清www| a级毛片黄视频| 亚洲综合色惰| 五月天丁香电影| 人人妻人人爽人人添夜夜欢视频| 天堂8中文在线网| 国产极品粉嫩免费观看在线 | 91久久精品电影网| 日韩一本色道免费dvd| 日产精品乱码卡一卡2卡三| 精品亚洲成a人片在线观看| 水蜜桃什么品种好| 亚洲精品日本国产第一区| 亚洲av电影在线观看一区二区三区| 国产av码专区亚洲av| 啦啦啦视频在线资源免费观看| 蜜臀久久99精品久久宅男| 国产精品久久久久久久久免| 男人爽女人下面视频在线观看| 午夜日本视频在线| 日韩,欧美,国产一区二区三区| 国产精品99久久久久久久久| 不卡视频在线观看欧美| 女的被弄到高潮叫床怎么办| 国产黄片视频在线免费观看| 精品国产露脸久久av麻豆| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 熟女电影av网| 欧美精品一区二区大全| 蜜臀久久99精品久久宅男| 免费观看a级毛片全部| 久久久久久伊人网av| 一本—道久久a久久精品蜜桃钙片| 色哟哟·www| 欧美性感艳星| 亚洲av电影在线观看一区二区三区| 亚洲成人手机| 女性被躁到高潮视频| 久久99热这里只频精品6学生| 大片电影免费在线观看免费| 97超视频在线观看视频| 男人操女人黄网站| 久久精品国产亚洲av天美| 国产黄色视频一区二区在线观看| 最近的中文字幕免费完整| 国产精品99久久99久久久不卡 | 人人妻人人爽人人添夜夜欢视频| 欧美人与性动交α欧美精品济南到 | 欧美日韩国产mv在线观看视频| 国产精品熟女久久久久浪| 999精品在线视频| av黄色大香蕉| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 成年人午夜在线观看视频| 久久精品国产自在天天线| 99视频精品全部免费 在线| 高清视频免费观看一区二区| 在线观看人妻少妇| 国产一级毛片在线| 婷婷成人精品国产| 国产精品久久久久久精品电影小说| 国产精品国产三级国产专区5o| 黄色欧美视频在线观看| 久久韩国三级中文字幕| 国产精品国产三级国产av玫瑰| 午夜福利网站1000一区二区三区| 亚洲av日韩在线播放| 美女大奶头黄色视频| 久久久久久久久大av| 一区二区三区免费毛片| 久久久久久人妻| 成年人免费黄色播放视频| 最黄视频免费看| 欧美性感艳星| 国产无遮挡羞羞视频在线观看| 日日摸夜夜添夜夜添av毛片| 国产精品偷伦视频观看了| 多毛熟女@视频| 午夜老司机福利剧场| 中文字幕人妻熟人妻熟丝袜美| 午夜福利在线观看免费完整高清在| 亚州av有码| 国语对白做爰xxxⅹ性视频网站| 国产欧美日韩一区二区三区在线 | 99久久精品国产国产毛片| 少妇精品久久久久久久| 久久99一区二区三区| 日本猛色少妇xxxxx猛交久久| 丝袜脚勾引网站| 80岁老熟妇乱子伦牲交| 午夜av观看不卡| 亚洲精品av麻豆狂野| 成年av动漫网址| 国产精品.久久久| 日本wwww免费看| 久久午夜福利片| av线在线观看网站| 美女大奶头黄色视频| 国产视频首页在线观看| 18禁观看日本| 人妻夜夜爽99麻豆av| xxx大片免费视频| 婷婷色综合www| 国产免费又黄又爽又色| 亚洲精品亚洲一区二区| 黄色毛片三级朝国网站| 亚洲三级黄色毛片| 国产精品成人在线| 大片免费播放器 马上看| 亚洲精品乱码久久久v下载方式| 免费av不卡在线播放| 一区在线观看完整版| 如日韩欧美国产精品一区二区三区 | 国产精品欧美亚洲77777| 91国产中文字幕| 免费播放大片免费观看视频在线观看| 亚洲精品国产色婷婷电影| 色婷婷久久久亚洲欧美| 欧美成人午夜免费资源| 国产成人freesex在线| 欧美精品一区二区大全| 亚洲国产av影院在线观看| 成人18禁高潮啪啪吃奶动态图 | 最近中文字幕高清免费大全6| av免费在线看不卡| av在线app专区| av在线老鸭窝| 欧美日本中文国产一区发布| 22中文网久久字幕| 七月丁香在线播放| 欧美日韩视频高清一区二区三区二| 一级二级三级毛片免费看| 亚州av有码| 亚洲精品中文字幕在线视频| 18禁动态无遮挡网站| 人妻少妇偷人精品九色| 九色成人免费人妻av| 国产高清有码在线观看视频| av国产久精品久网站免费入址| 国产成人aa在线观看| 极品少妇高潮喷水抽搐| 人妻 亚洲 视频| 肉色欧美久久久久久久蜜桃| 亚洲色图 男人天堂 中文字幕 | 亚洲精品456在线播放app| 久久久久久久亚洲中文字幕| 亚洲无线观看免费| 国产成人精品久久久久久| 69精品国产乱码久久久| 日本爱情动作片www.在线观看| 亚洲精品第二区| 久久久久久久国产电影| 国产深夜福利视频在线观看| 99国产精品免费福利视频| 黄色一级大片看看| 十八禁高潮呻吟视频| 亚洲av综合色区一区| 黄色怎么调成土黄色| 蜜桃国产av成人99| 一区二区日韩欧美中文字幕 | 国内精品宾馆在线| 国产日韩欧美亚洲二区| 亚洲精品美女久久av网站| 欧美xxⅹ黑人| 色婷婷av一区二区三区视频| 天美传媒精品一区二区| 韩国高清视频一区二区三区| 久热久热在线精品观看| 国产日韩欧美在线精品| 欧美xxⅹ黑人| 99热网站在线观看| 少妇的逼好多水| 国产综合精华液| 2021少妇久久久久久久久久久| 香蕉精品网在线| 成年女人在线观看亚洲视频| 国产成人一区二区在线| 亚洲第一区二区三区不卡| 国产伦精品一区二区三区视频9| 免费观看无遮挡的男女| 成人综合一区亚洲| 日韩不卡一区二区三区视频在线| 在线免费观看不下载黄p国产| 人妻制服诱惑在线中文字幕| 一本色道久久久久久精品综合| 国产 精品1| 97超碰精品成人国产| 亚洲国产av新网站| 少妇人妻精品综合一区二区| 午夜福利在线观看免费完整高清在| 一边亲一边摸免费视频| 久久97久久精品| 王馨瑶露胸无遮挡在线观看| 亚洲国产日韩一区二区| 国产精品国产三级专区第一集| 国产成人freesex在线| 免费看av在线观看网站| 亚洲久久久国产精品| 永久网站在线| 日本vs欧美在线观看视频| 一二三四中文在线观看免费高清| 免费黄色在线免费观看| kizo精华| 精品久久久久久久久亚洲| 91久久精品国产一区二区成人| 久久久久久久大尺度免费视频| 99久久精品一区二区三区| 美女脱内裤让男人舔精品视频| 97超视频在线观看视频| 中文字幕av电影在线播放| 内地一区二区视频在线| 久久久国产精品麻豆| 亚洲精品久久久久久婷婷小说| 色婷婷av一区二区三区视频| 国产成人精品在线电影| 国产欧美亚洲国产| 老熟女久久久| 国产色爽女视频免费观看| 国产精品熟女久久久久浪| 亚洲精品国产av蜜桃| 国产在线一区二区三区精| 高清视频免费观看一区二区| 成年美女黄网站色视频大全免费 | 水蜜桃什么品种好| 欧美亚洲日本最大视频资源| 日韩精品免费视频一区二区三区 | 香蕉精品网在线| 久久精品国产亚洲av天美| 久久97久久精品| 香蕉精品网在线| 韩国av在线不卡| 免费播放大片免费观看视频在线观看| 91久久精品国产一区二区三区| 久久精品夜色国产| 欧美精品高潮呻吟av久久| 国产白丝娇喘喷水9色精品| 只有这里有精品99| 久久综合国产亚洲精品| 五月天丁香电影| 国产精品国产三级国产专区5o| 美女脱内裤让男人舔精品视频| 亚洲欧美精品自产自拍| 搡女人真爽免费视频火全软件| 久久久久久久精品精品| 女性被躁到高潮视频| 91精品国产九色| 黄色欧美视频在线观看| 国产成人精品久久久久久| 五月玫瑰六月丁香| 婷婷色综合www| 国产淫语在线视频| 久久久久视频综合| 极品少妇高潮喷水抽搐| 日韩中字成人| 麻豆乱淫一区二区| 天天躁夜夜躁狠狠久久av| 国产免费视频播放在线视频| 国产又色又爽无遮挡免| 午夜激情久久久久久久| 日本91视频免费播放| 亚洲精品亚洲一区二区| 曰老女人黄片| 国产高清不卡午夜福利| 一二三四中文在线观看免费高清| 日韩在线高清观看一区二区三区| 国产亚洲欧美精品永久| 精品亚洲成国产av| 日本av免费视频播放| 国产精品久久久久久精品电影小说| .国产精品久久| 成人18禁高潮啪啪吃奶动态图 | 国产在线免费精品| 亚洲国产精品一区三区| 日韩电影二区| 精品久久久久久电影网| 久久久精品区二区三区| 欧美精品人与动牲交sv欧美| 最后的刺客免费高清国语| 99re6热这里在线精品视频| 欧美国产精品一级二级三级| 久久狼人影院| 国产一区亚洲一区在线观看| 99久久人妻综合| 国产精品无大码| 久久韩国三级中文字幕| tube8黄色片| 少妇人妻 视频| 99久国产av精品国产电影| 一区二区日韩欧美中文字幕 | 久久午夜综合久久蜜桃| 热99久久久久精品小说推荐| 日本猛色少妇xxxxx猛交久久| 伊人久久国产一区二区| 日韩制服骚丝袜av| 成年av动漫网址| 欧美日韩在线观看h| 九色亚洲精品在线播放| 国产精品久久久久久久电影| 一级毛片我不卡| 成年人免费黄色播放视频| 久久ye,这里只有精品| 精品亚洲成a人片在线观看| 精品国产乱码久久久久久小说| videossex国产| 成年人免费黄色播放视频| 99九九线精品视频在线观看视频| 国产精品人妻久久久久久| 亚洲综合色网址| 狠狠精品人妻久久久久久综合| 亚洲av欧美aⅴ国产| 2021少妇久久久久久久久久久| 国产白丝娇喘喷水9色精品| xxxhd国产人妻xxx| 国产探花极品一区二区| 视频中文字幕在线观看| 亚洲性久久影院| 成人影院久久| 在线播放无遮挡| 亚洲欧洲日产国产| 精品人妻在线不人妻| 国产一区二区三区av在线| 国产乱来视频区| 久久热精品热| 亚洲欧美日韩卡通动漫| 大又大粗又爽又黄少妇毛片口| 少妇猛男粗大的猛烈进出视频| 日韩强制内射视频| 亚洲精品乱码久久久v下载方式| 天天操日日干夜夜撸| 亚洲精品国产色婷婷电影| a级毛色黄片| 成年人免费黄色播放视频| 2018国产大陆天天弄谢| 国产在线一区二区三区精| 欧美亚洲 丝袜 人妻 在线| 一区二区三区乱码不卡18| 国产精品人妻久久久久久| 日日撸夜夜添| 一边摸一边做爽爽视频免费| 九九在线视频观看精品| 视频中文字幕在线观看| 亚洲三级黄色毛片| 免费播放大片免费观看视频在线观看| 国产在视频线精品| 成人无遮挡网站| 秋霞伦理黄片| 亚洲精品乱码久久久v下载方式| 婷婷色综合大香蕉| 青春草国产在线视频| 亚洲精品aⅴ在线观看| 免费观看的影片在线观看| 人妻一区二区av| 日韩av免费高清视频| 老熟女久久久| 18在线观看网站| 老司机亚洲免费影院| 波野结衣二区三区在线| 久久久久人妻精品一区果冻| 在线观看人妻少妇| 最黄视频免费看| 欧美丝袜亚洲另类| 免费高清在线观看视频在线观看| 老司机亚洲免费影院| 亚洲怡红院男人天堂| 少妇猛男粗大的猛烈进出视频| 十八禁网站网址无遮挡| 国产日韩一区二区三区精品不卡 | 亚洲第一区二区三区不卡| 国产成人a∨麻豆精品| 人妻一区二区av| √禁漫天堂资源中文www| 亚洲av成人精品一区久久| 桃花免费在线播放| 自线自在国产av| 日本色播在线视频| 国产视频内射| 18在线观看网站| 日韩 亚洲 欧美在线| 亚洲第一区二区三区不卡| 最后的刺客免费高清国语| 久久女婷五月综合色啪小说| 亚洲精品国产色婷婷电影| 精品一品国产午夜福利视频| 国产欧美另类精品又又久久亚洲欧美| 涩涩av久久男人的天堂| 精品国产一区二区久久| a级毛色黄片| 免费高清在线观看视频在线观看| av国产久精品久网站免费入址| 蜜桃在线观看..| 激情五月婷婷亚洲| 夜夜爽夜夜爽视频| 亚洲av男天堂| 飞空精品影院首页| 汤姆久久久久久久影院中文字幕| 99久久综合免费| 国产精品国产av在线观看| 日本vs欧美在线观看视频| 狂野欧美激情性xxxx在线观看| 久久久久久久大尺度免费视频| 天堂俺去俺来也www色官网| 国产精品不卡视频一区二区| 精品熟女少妇av免费看| 午夜免费鲁丝| 国产av一区二区精品久久| 亚洲精品自拍成人| 99久久精品国产国产毛片| 尾随美女入室| 又粗又硬又长又爽又黄的视频| 人妻系列 视频| 欧美 亚洲 国产 日韩一| 哪个播放器可以免费观看大片| 亚洲综合色网址| 在线 av 中文字幕| 成人午夜精彩视频在线观看| 91精品伊人久久大香线蕉| 日韩av免费高清视频| 最近中文字幕高清免费大全6| 51国产日韩欧美| 亚洲欧洲精品一区二区精品久久久 | 在线观看三级黄色| 欧美变态另类bdsm刘玥| 人妻夜夜爽99麻豆av| 国产精品国产三级专区第一集| 91久久精品国产一区二区成人| 熟女av电影| 少妇的逼水好多| 人妻系列 视频| 美女国产高潮福利片在线看| 亚洲国产色片| 久久精品人人爽人人爽视色| 久久久亚洲精品成人影院| 久久午夜综合久久蜜桃| 精品少妇内射三级| 久久毛片免费看一区二区三区| 男人操女人黄网站| 国产成人av激情在线播放 | 一级a做视频免费观看| 亚洲精品一区蜜桃| 亚洲精品亚洲一区二区| 91在线精品国自产拍蜜月| 亚洲精品国产色婷婷电影| 亚洲精品中文字幕在线视频| 午夜福利,免费看| 亚洲精品久久久久久婷婷小说| 国产日韩欧美视频二区| 欧美人与善性xxx| 777米奇影视久久| 99久国产av精品国产电影| 久久久久久人妻| 黄片无遮挡物在线观看| 在线观看三级黄色| 99久国产av精品国产电影| 国产高清不卡午夜福利| 十分钟在线观看高清视频www| 久久久久久久国产电影| 欧美日韩一区二区视频在线观看视频在线| 国产视频首页在线观看| 久久精品国产鲁丝片午夜精品| 2022亚洲国产成人精品| 国产精品国产三级国产专区5o| 三级国产精品欧美在线观看| 建设人人有责人人尽责人人享有的| 亚洲国产精品一区二区三区在线| 国产精品一二三区在线看| 免费观看av网站的网址| 秋霞在线观看毛片| 亚洲欧美成人综合另类久久久| 999精品在线视频| 成人国产av品久久久| av播播在线观看一区| 蜜桃久久精品国产亚洲av| 最新的欧美精品一区二区| 下体分泌物呈黄色| 大香蕉久久网| 精品少妇内射三级| 久久久a久久爽久久v久久| 欧美日韩一区二区视频在线观看视频在线| 欧美少妇被猛烈插入视频| 免费观看的影片在线观看| 三级国产精品欧美在线观看| 免费观看无遮挡的男女| 日韩在线高清观看一区二区三区| 国产一区二区在线观看av| 伦理电影免费视频| 久久久国产欧美日韩av| 国产日韩欧美在线精品| 久久婷婷青草| 一本—道久久a久久精品蜜桃钙片| 久久久久久久国产电影| 亚洲av中文av极速乱| 美女国产高潮福利片在线看| videosex国产| 免费久久久久久久精品成人欧美视频 | av黄色大香蕉| 亚洲国产精品专区欧美| 久久精品国产亚洲av天美| 女人久久www免费人成看片| 啦啦啦中文免费视频观看日本| 高清视频免费观看一区二区| 亚洲欧美清纯卡通| 国产女主播在线喷水免费视频网站| 亚洲成人一二三区av| freevideosex欧美| 国产 精品1| 日本av免费视频播放| 高清欧美精品videossex| 欧美精品人与动牲交sv欧美| 日韩一区二区三区影片| 美女主播在线视频| 亚洲丝袜综合中文字幕| 91精品国产国语对白视频| 色5月婷婷丁香| 18禁在线播放成人免费| 欧美老熟妇乱子伦牲交| 亚洲欧美清纯卡通| 欧美日韩在线观看h| 在线免费观看不下载黄p国产| 日本色播在线视频| 久久久久久久亚洲中文字幕| 精品久久国产蜜桃| 免费黄网站久久成人精品| 丰满乱子伦码专区| 亚洲经典国产精华液单| 狂野欧美激情性xxxx在线观看| videosex国产| 亚洲精品成人av观看孕妇| 国产黄频视频在线观看| 乱码一卡2卡4卡精品| 肉色欧美久久久久久久蜜桃| 国产69精品久久久久777片| 精品久久蜜臀av无| 久久久国产欧美日韩av| 人人妻人人添人人爽欧美一区卜| 肉色欧美久久久久久久蜜桃| 如何舔出高潮| 国产亚洲欧美精品永久| 免费少妇av软件| 亚洲精品av麻豆狂野| 高清毛片免费看| a级毛片免费高清观看在线播放| 热re99久久精品国产66热6| 亚洲综合色惰| 日本欧美国产在线视频| 高清黄色对白视频在线免费看| 美女视频免费永久观看网站| 午夜久久久在线观看| 久久精品人人爽人人爽视色| 一边摸一边做爽爽视频免费| 精品一区二区免费观看| 成人二区视频| 日韩三级伦理在线观看| 九草在线视频观看| 丰满乱子伦码专区| 你懂的网址亚洲精品在线观看| 国产成人免费无遮挡视频| 国产精品一区二区三区四区免费观看| 黑人高潮一二区| 国产深夜福利视频在线观看| 18禁在线播放成人免费| 国产免费一级a男人的天堂| 成年av动漫网址| 多毛熟女@视频| 久久精品熟女亚洲av麻豆精品| 一区二区三区四区激情视频| av.在线天堂| 国模一区二区三区四区视频| 国产一区二区三区av在线| 高清欧美精品videossex| 少妇被粗大猛烈的视频| 蜜桃在线观看..| 国产精品熟女久久久久浪| 国产精品熟女久久久久浪| 国产有黄有色有爽视频| 亚洲av不卡在线观看| 国产精品三级大全| 久久国产精品大桥未久av| 99久久精品国产国产毛片| 久久久久精品久久久久真实原创| kizo精华| 久久ye,这里只有精品| 亚洲av二区三区四区| 超碰97精品在线观看| 男女啪啪激烈高潮av片| 亚洲人与动物交配视频| 亚州av有码| 大香蕉久久网| 久久国产亚洲av麻豆专区| 大话2 男鬼变身卡| 国产在线一区二区三区精|