• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    新聞推薦系統(tǒng)中的“信息繭房”問(wèn)題:議題綜述與解決思路

    2018-07-03 05:57:48林微
    新媒體研究 2018年6期
    關(guān)鍵詞:信息繭房個(gè)性化推薦推薦系統(tǒng)

    林微

    摘 要 主要針對(duì)新聞推薦系統(tǒng),考察其中的“信息繭房”問(wèn)題并提出解決思路。通過(guò)對(duì)國(guó)內(nèi)新聞傳播學(xué)、計(jì)算機(jī)科學(xué)、情報(bào)管理學(xué)中的相關(guān)文獻(xiàn)的梳理,輔以對(duì)web of science中國(guó)外SSCI文獻(xiàn)的計(jì)量分析,介紹與“信息繭房”相關(guān)的主要議題與最新進(jìn)展。在此基礎(chǔ)上,構(gòu)建新聞在推薦系統(tǒng)情境中包含信息流和數(shù)據(jù)流的“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”流程模型,并針對(duì)這一模型,提出在內(nèi)容篩選、技術(shù)創(chuàng)新、心理考察三個(gè)角度上可能的思路,以期通過(guò)多學(xué)科、學(xué)業(yè)界的研究與實(shí)踐互動(dòng),推動(dòng)“信息繭房”問(wèn)題的解決。

    關(guān)鍵詞 信息繭房;回音室效應(yīng);個(gè)性化推薦;推薦系統(tǒng)

    中圖分類號(hào) G2 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 2096-0360(2018)06-0001-07

    1 研究緣起與概念界定

    1.1 研究緣起

    通過(guò)算法完成資訊的個(gè)性化推薦和分發(fā),正成為今天新聞業(yè)內(nèi)越來(lái)越多媒體的選擇。無(wú)論是技術(shù)出身的內(nèi)容推薦引擎“今日頭條”“一點(diǎn)資訊”、ZAKER等,還是傳統(tǒng)媒體出身的四川報(bào)業(yè)集團(tuán)與阿里巴巴合作推出的“封面新聞”、門(mén)戶網(wǎng)站的移動(dòng)端應(yīng)用“騰訊新聞”等,都將信息的“個(gè)性化推薦”作為自己的產(chǎn)品亮點(diǎn)。個(gè)性化推薦是一種信息過(guò)濾技術(shù),“個(gè)性化”是其技術(shù)目的,推薦算法是其方法。它期望通過(guò)分析大量用戶行為日志,給不同用戶提供不同的個(gè)性化頁(yè)面展示,來(lái)提高網(wǎng)站的點(diǎn)擊率和轉(zhuǎn)化率[1]4。它在不同產(chǎn)品中的應(yīng)用已由來(lái)已久。電子商務(wù)領(lǐng)域有亞馬遜被RWW(讀寫(xiě)網(wǎng))稱為“推薦系統(tǒng)之王”。影視領(lǐng)域有美國(guó)視頻公司Netflix為了更精準(zhǔn)地對(duì)用戶進(jìn)行電影推薦,自2006年起開(kāi)始舉辦著名的Netflix Prize推薦系統(tǒng)比賽,懸賞百萬(wàn)美元,希望將算法的預(yù)測(cè)準(zhǔn)確度提升10%。

    在信息閱讀領(lǐng)域,“今日頭條”是于“Google Reader”“鮮果網(wǎng)”等閱讀工具開(kāi)發(fā)的后繼實(shí)踐者。它從2013到2015年間異軍突起,迅速占取國(guó)內(nèi)大量網(wǎng)絡(luò)新聞受眾,也在2017年到2018年來(lái)遭遇數(shù)次公眾輿論質(zhì)疑。2017年9月,人民日?qǐng)?bào)連續(xù)發(fā)表3篇文章就算法推薦問(wèn)題質(zhì)問(wèn)“今日頭條”過(guò)度依賴技術(shù)導(dǎo)致用戶受困“信息繭房”。2018年1月,其陷入“麥克風(fēng)事件”。眾多網(wǎng)友質(zhì)疑“今日頭條”開(kāi)啟了手機(jī)麥克風(fēng)權(quán)限收集用戶聲音信息進(jìn)行內(nèi)容推薦,之后“今日頭條”回應(yīng)表示其技術(shù)達(dá)不到也不會(huì)去進(jìn)行這樣的信息收集。盡管“今日頭條”做出了澄清,網(wǎng)友的質(zhì)疑則側(cè)面表現(xiàn)出人們對(duì)于被自己的瀏覽歷史、社交足跡“包裹”的恐慌。

    這種“被包裹”的恐慌,是美國(guó)學(xué)者桑斯坦在其2006年出版的著作《信息烏托邦——眾人如何生產(chǎn)知識(shí)》一書(shū)中提出“信息繭房”(Information Cocoons)概念的現(xiàn)實(shí)詮釋。書(shū)中他所描述“信息繭房”由“個(gè)人日?qǐng)?bào)”形式呈現(xiàn)。人們可以借助網(wǎng)絡(luò)平臺(tái)和技術(shù)工具在海量的信息中隨意選擇自己關(guān)注的話題,完全根據(jù)自己的喜好定制報(bào)紙和雜志,即一種完全個(gè)人化的閱讀[2]。同時(shí)桑斯坦指出,在信息傳播中,因公眾自身的信息需求并非全方位的,公眾只注意自己選擇的東西和使自己愉悅的通訊領(lǐng)域,久而久之,會(huì)將自身桎梏于像蠶繭一般的“繭

    房”中。

    桑斯坦對(duì)此概念闡述的主體是用戶,側(cè)重描述基于用戶選擇的閱讀個(gè)性化。而推薦系統(tǒng)的設(shè)計(jì)意圖描述則更側(cè)重信息分發(fā)者針對(duì)用戶個(gè)體進(jìn)行的點(diǎn)對(duì)點(diǎn)的傳播個(gè)性化。

    但這兩層含義并不是相對(duì)立的關(guān)系,而是存在疊合的交集,這是因?yàn)橥扑]系統(tǒng)個(gè)性化傳播決策的執(zhí)行極大依賴著基于用戶瀏覽行為的日志數(shù)據(jù)。這一點(diǎn)將會(huì)結(jié)合新聞在推薦系統(tǒng)情境中“創(chuàng)作,發(fā)布/

    抓取,分發(fā)/點(diǎn)擊,閱讀”傳播的流程模型詳述。

    本文希望將此模型圖作為本次多學(xué)科文獻(xiàn)梳理的總結(jié),并針對(duì)模型圖的3個(gè)環(huán)節(jié),提出在內(nèi)容篩選、技術(shù)創(chuàng)新、心理考察3個(gè)角度上的應(yīng)對(duì)思路,推動(dòng)新聞推薦系統(tǒng)“信息繭房”問(wèn)題的解決。

    1.2 主要概念與辨析

    1)新聞:本文中指廣義上的信息資源,包括文字、圖片、視頻、問(wèn)答、直播等不同的形式。新聞推薦系統(tǒng)中,前臺(tái)展示的新聞主要是來(lái)源于網(wǎng)絡(luò)爬蟲(chóng)、合作媒體和自媒體創(chuàng)作[3]。網(wǎng)絡(luò)爬蟲(chóng)爬取社交媒體、門(mén)戶網(wǎng)站等信息資源;合作媒體指中央、省級(jí)、各地市、縣級(jí)及以下媒體;自媒體創(chuàng)作主要提供專業(yè)學(xué)習(xí)信息、新聞、生活休閑類等其他“長(zhǎng)尾”信息資源。

    2)算法:是一系列解決問(wèn)題的清晰指令,也可抽象理解為解決問(wèn)題的方法。理解算法的概念可以從理論與應(yīng)用層面展開(kāi)。以推薦算法為例,CF、CBF、DNN算法等屬于理論層面的數(shù)學(xué)方法,而亞馬遜、Youtube、Facebook、今日頭條等產(chǎn)品屬于算法在應(yīng)用層面的實(shí)踐成果,包含商業(yè)邏輯在內(nèi)的復(fù)雜運(yùn)作。

    3)推薦系統(tǒng)與推薦算法:Resnick等于1997年給出了推薦系統(tǒng)的定義。一個(gè)完整的推薦系統(tǒng)由用戶模型、產(chǎn)品模型與推薦算法三部分組成[4]。推薦系統(tǒng)包含推薦算法作為其核心組成部分,同時(shí)需要對(duì)所推薦的物品和用戶建模。對(duì)于一個(gè)推薦系統(tǒng)來(lái)說(shuō),推薦算法決定其類型及性能優(yōu)劣。目前主流的推薦算法有:協(xié)同過(guò)濾(CF)、基于關(guān)聯(lián)規(guī)則的推薦、基于二部圖的推薦等[5]。

    2 關(guān)于新聞推薦系統(tǒng)“信息繭房”的主要議題梳理

    中文文獻(xiàn)的參閱依循各文獻(xiàn)之間的引文網(wǎng)絡(luò),在CNKI中選取以下相關(guān)關(guān)鍵字按學(xué)科分組、以“主題”為搜索條件,選取本世紀(jì)至今(2001—2018)被引較多或影響因子較高的文獻(xiàn)進(jìn)行梳理。

    選取學(xué)科分組:新聞與傳媒、圖書(shū)情報(bào)與數(shù)字圖書(shū)館、計(jì)算機(jī)軟件及計(jì)算機(jī)應(yīng)用。

    主要使用的關(guān)鍵字包括:“信息繭房”“信息窄化”“群體極化”“回音室效應(yīng)”“個(gè)性化推薦”等。涉及其他關(guān)鍵字包括:“推薦算法”“社會(huì)化推薦系統(tǒng)”“信息偶遇”等。

    英文文獻(xiàn)搜索中,在web of science平臺(tái)中使用關(guān)鍵字Echo chamber在SSCI索引下搜索,從2001年至2018年3月3日,共得到106條文獻(xiàn)。

    2.1 新聞推薦系統(tǒng)“信息繭房”問(wèn)題背景:還未盡善的技術(shù)與大眾心理的共謀

    概念的提出者桑斯坦將“信息繭房”的產(chǎn)生背景定義在網(wǎng)絡(luò)與技術(shù)環(huán)境中。首先從計(jì)算機(jī)科學(xué)與應(yīng)用的視角下看,推薦系統(tǒng)是為了解決信息過(guò)載問(wèn)題而發(fā)展出的一套技術(shù)。

    縱觀因特網(wǎng)的發(fā)展源流,它由單個(gè)網(wǎng)絡(luò)ARPANET升級(jí)到現(xiàn)今多層次ISP結(jié)構(gòu)的互聯(lián)網(wǎng),這代表著更復(fù)雜的網(wǎng)絡(luò)層級(jí)和更大的用戶覆蓋面,帶來(lái)了更多的信息生產(chǎn)和更快的信息交互。為了解決信息過(guò)載問(wèn)題,提升人們獲取信息的效率與質(zhì)量,分類目錄、搜索引擎、推薦系統(tǒng)、智能問(wèn)答等技術(shù)應(yīng)運(yùn)而生。在具體新聞場(chǎng)景的應(yīng)用中,相應(yīng)地出現(xiàn)了以雅虎為代表的門(mén)戶網(wǎng)站、以谷歌為代表的搜索引擎、以Facebook上的Newsfeed、今日頭條等為代表的內(nèi)容智能分發(fā)工具和Quartz、微軟小冰等對(duì)話式新聞產(chǎn)品。

    新聞推薦系統(tǒng)在對(duì)搜索引擎中PageRank等經(jīng)典排序算法的繼承和改造的基礎(chǔ)上,它的特點(diǎn)在于不需要用戶表達(dá)明確的特定信息需求。不同于搜索引擎被動(dòng)等待用戶的“搜索”操作,進(jìn)行信息呈現(xiàn),推薦算法能夠主動(dòng)收集用戶的特征信息。但由于用戶沒(méi)有顯式地提出特定信息需求,新聞推薦系統(tǒng)就必須做到挖掘用戶的潛在需求,這也使“精確度”成為其系統(tǒng)優(yōu)劣的首要評(píng)價(jià)指標(biāo),為“信息繭房”問(wèn)題埋下隱憂。

    在計(jì)算機(jī)界,早在2006年就有學(xué)者意識(shí)到在推薦系統(tǒng)僅關(guān)注精確性遠(yuǎn)遠(yuǎn)不夠,可能會(huì)導(dǎo)致用戶得到一些信息量為零的“精準(zhǔn)推薦”,導(dǎo)致視野越來(lái)越狹窄的情況[6]。這種“越推越窄”的情況被稱之為計(jì)算機(jī)界的探索利用問(wèn)題,有時(shí)也稱為EE問(wèn)題(Explore & Exploit)。2011年,在ACM組織的第五屆推薦系統(tǒng)國(guó)際會(huì)議上,專門(mén)召開(kāi)了一個(gè)討論推薦系統(tǒng)多樣性的研討會(huì)(DiveES 2011)。此后,2013年國(guó)內(nèi)學(xué)界推出第一篇系統(tǒng)地對(duì)推薦系統(tǒng)多樣性進(jìn)行綜述的文章[7],在分析多樣性類型的基礎(chǔ)上,重點(diǎn)概括、比較和分析了信息物理、二次優(yōu)化、社會(huì)化網(wǎng)絡(luò)和時(shí)間感知四種提高個(gè)性化推薦多樣性的方法,期待未來(lái)更多算法的有效組合研究。此后,計(jì)算機(jī)學(xué)業(yè)界將研究重心轉(zhuǎn)移到推薦系統(tǒng)信息窄化的解決,即推薦算法的優(yōu)化與更多指標(biāo)的測(cè)試中。例如在發(fā)現(xiàn)用戶新興趣上,基于關(guān)聯(lián)規(guī)則的推薦優(yōu)于基于內(nèi)容的推薦和協(xié)同過(guò)濾推薦[5]。在測(cè)試指標(biāo)設(shè)置上,學(xué)者項(xiàng)亮總結(jié)出包括準(zhǔn)確率、覆蓋率、多樣性、新穎性、驚喜度、信任度等10余個(gè)推薦系統(tǒng)評(píng)價(jià)指標(biāo)[1]23-33。另有一批學(xué)者的研究成果發(fā)表在《復(fù)雜網(wǎng)絡(luò)觀察》《復(fù)雜系統(tǒng)與復(fù)雜性科學(xué)》等專業(yè)刊物上。

    新聞傳播學(xué)界在“信息繭房”概念提出后也很快加入討論。學(xué)者程士安等以科技進(jìn)步與傳播規(guī)律的演進(jìn)為視角,考察數(shù)字化時(shí)代的組織傳播理論時(shí),對(duì)“信息繭房”的概念進(jìn)行了組織傳播視角的重新闡述。提出通過(guò)分析新技術(shù)條件下的信息聚合與社群的構(gòu)成,看新技術(shù)條件下網(wǎng)絡(luò)組織微觀關(guān)系下的“紐帶”與“鎖扣”特征。對(duì)于基本的網(wǎng)絡(luò)結(jié)構(gòu)“結(jié)點(diǎn)與邊”(verges and edges),并不局限將“結(jié)點(diǎn)”看作單一用戶,而是聚合著某同類信息需求的人群,而“邊”既是信息聚合體內(nèi)部的構(gòu)成紐帶,也在外部連接著組織與組織,社群與社群。這使“信息繭房”的研究視域從個(gè)人的繭房,擴(kuò)大到群體的繭房。接著,文章從動(dòng)態(tài)的傳播視角,提出了“繭房的遷移”。指小“繭房”通過(guò)網(wǎng)絡(luò)游移,相似的幾個(gè)子“繭房”會(huì)在一個(gè)特定大“繭房”平臺(tái)上達(dá)成共識(shí)[8]。文章從組織傳播和網(wǎng)絡(luò)傳播的視角微觀、動(dòng)態(tài)地描述了繭房形成與變化的機(jī)理;對(duì)繭房之內(nèi)、之間聯(lián)系的研究,將網(wǎng)絡(luò)作為基本數(shù)據(jù)結(jié)構(gòu)之一所定義中物理性質(zhì)的“邊”,融入了社會(huì)心理因素的考察。這一觀點(diǎn)的提出,也進(jìn)一步明確了“信息繭房”與“群體極化”等議題之間的緊密聯(lián)系。

    在技術(shù)之外,新聞傳播界的研究著重指出了“信息繭房”形成在思想淵源、心理特性等方面的原因。2013年,新聞界期刊首先將此定義正式介紹到國(guó)內(nèi)時(shí),學(xué)者梁鋒指出“信息繭房”的思想淵源可以追溯到19世紀(jì)初法國(guó)思想家托克維爾發(fā)現(xiàn)的,民主社會(huì)天然地易于促成個(gè)人主義的生成,并隨著身份平等的推廣而擴(kuò)散[9]。學(xué)者劉華棟基于對(duì)社交媒體的觀察,認(rèn)為個(gè)人興趣引導(dǎo)人們的信息接收行為使其陷入“信息繭房”,而社交媒體使用進(jìn)一步促進(jìn)“信息繭房”的形成[10]。學(xué)者陳昌鳳等認(rèn)為信息繭房、信息偏向等問(wèn)題的產(chǎn)生與人們的“證實(shí)性偏見(jiàn)”有關(guān)[11],即人們傾向于尋找信息確認(rèn)自己的觀點(diǎn)。

    新聞傳播界往往在分析原因后提出關(guān)于“信息繭房”危害的議題探討,網(wǎng)絡(luò)是信息自由傳揚(yáng)的烏托邦抑或滋養(yǎng)極端意見(jiàn)分子的溫床,“信息繭房”與“群體極化”等社會(huì)政治議題有何關(guān)聯(lián),這是此后新聞傳播學(xué)界的一個(gè)研究方向,并綜合運(yùn)用了基于案例觀察的或?qū)嶒?yàn)設(shè)計(jì)等實(shí)證研究方法,將在本節(jié)下一小點(diǎn)再做介紹。

    情報(bào)管理學(xué)界對(duì)新聞推薦系統(tǒng)“信息繭房”問(wèn)題機(jī)制的研究起步較晚,2018年1月出版首篇網(wǎng)絡(luò)信息系統(tǒng)視角下的機(jī)制研究論文[3]。首先從內(nèi)容智能分發(fā)平臺(tái)信息資源組織方式、信息受眾用戶行為與信息運(yùn)動(dòng)方式三方面分析影響平臺(tái)信息運(yùn)動(dòng)效率的因素。在此基礎(chǔ)上探討“信息繭房”的形成機(jī)制時(shí),創(chuàng)新地使用了運(yùn)動(dòng)規(guī)律、平臺(tái)情境兩個(gè)視角。

    總的來(lái)看,新聞推薦系統(tǒng)“信息繭房”問(wèn)題的出現(xiàn),從技術(shù)發(fā)展的脈絡(luò)來(lái)看,是推薦系統(tǒng)完善過(guò)程中必然面對(duì)的難題,而動(dòng)態(tài)的網(wǎng)絡(luò)信息空間環(huán)境、復(fù)雜的個(gè)人與群體心理等因素豐富了它可歸因的維度,使得這一問(wèn)題不應(yīng)僅僅作為技術(shù)帶來(lái)個(gè)人視野的局限看待,同時(shí)奠基其他群體性社會(huì)議題的產(chǎn)生。

    2.2 新聞推薦系統(tǒng)“信息繭房”認(rèn)識(shí)現(xiàn)狀:趨于關(guān)注細(xì)節(jié)、量化的實(shí)證研究,總結(jié)從個(gè)體到社會(huì)的多層次危害分析思路

    “信息繭房”問(wèn)題提出后,計(jì)算機(jī)學(xué)界轉(zhuǎn)入問(wèn)題解決領(lǐng)域進(jìn)行算法優(yōu)化研究。目前關(guān)于“信息繭房”現(xiàn)狀的認(rèn)識(shí)主要來(lái)源于新聞傳播學(xué)界。為豐富研究素材的維度,筆者引入國(guó)外SSCI相關(guān)文獻(xiàn)的計(jì)量分析與閱讀梳理,總結(jié)得到主要關(guān)于“繭房”程度、“繭房”危害兩個(gè)研究角度。

    國(guó)內(nèi)新聞傳播學(xué)者在考量新聞推薦系統(tǒng)“信息繭房”問(wèn)題時(shí),常聯(lián)系“個(gè)性化推薦”“算法分發(fā)”“智能分發(fā)”“算法新聞”等關(guān)鍵詞,應(yīng)用新聞推薦系統(tǒng)的典型產(chǎn)品“今日頭條”是主要的研究對(duì)象。由于大部分社交媒體在信息推送設(shè)計(jì)(feed流)中也多使用到推薦系統(tǒng)技術(shù),也有學(xué)者關(guān)注社交媒體上“信息繭房”問(wèn)題。從研究方法上看,國(guó)內(nèi)針對(duì)“信息繭房”是否存在以及存在的程度如何的量化實(shí)證研究還比較少,多是基于案例觀察的質(zhì)化分析。

    學(xué)者王茜以“今日頭條”為研究對(duì)象,運(yùn)用內(nèi)容分析法,通過(guò)分析77位用戶的8 000多條新聞推送,發(fā)現(xiàn)14%的參與者收到的單一新聞?lì)愋驼急瘸^(guò)50%[12],認(rèn)為其中存在信息窄化問(wèn)題。學(xué)者王秋旭觀察微博上作為意見(jiàn)領(lǐng)袖的大V或公眾賬號(hào),其粉絲會(huì)自發(fā)性地形成一個(gè)團(tuán)體,這個(gè)團(tuán)體認(rèn)同意見(jiàn)領(lǐng)袖的言論,由此形成了一種“群體共識(shí)”[13]。

    對(duì)國(guó)外SSCI論文,以“echo chamber”做關(guān)鍵字進(jìn)行文獻(xiàn)計(jì)量分析,從分析結(jié)果來(lái)看,傳播學(xué)者們對(duì)這一問(wèn)題的關(guān)注度逐年上升(圖1)。除echo chamber外,關(guān)鍵詞還包括social media,polarization,Twitter,F(xiàn)acebook,climate change等(圖2);拓展關(guān)鍵詞包括media,polarization,networks,selective exposure,information,online,internet,communication,news,participation等(圖3)。其中拓展關(guān)鍵詞feather的詞頻也較高,多以詞組birds of a feather(人以群分物以類聚)出現(xiàn)。

    對(duì)這些字詞進(jìn)行分類可以看出,國(guó)外對(duì)這一問(wèn)題的主要研究對(duì)象是Twitter,F(xiàn)acebook等社交媒體、美總統(tǒng)選舉等事件,理論視角包括群體極化、選擇性接觸、公眾輿論等。

    考慮到推薦系統(tǒng)與搜索引擎、社交媒體的技術(shù)淵源,筆者主要選擇包含online search,social media,F(xiàn)acebook,Twitter的相關(guān)論文進(jìn)行介紹。

    在對(duì)新聞推薦系統(tǒng)“信息繭房”的存在認(rèn)定上,學(xué)者們意見(jiàn)不一,一些學(xué)者會(huì)在措辭中加入hypothesis(假設(shè))再對(duì)其進(jìn)行實(shí)證研究。F.J.Z.Borgesius 等人研究網(wǎng)站利用個(gè)性化算法為用戶篩選、推送個(gè)性化內(nèi)容,綜合運(yùn)用量化手段分析后認(rèn)為,目前還缺乏足夠的證據(jù)表明個(gè)性化算法會(huì)造成“信息繭房”或“過(guò)濾氣泡”[14]。而David Goldie等人使用文獻(xiàn)計(jì)量方法并針對(duì)社交媒體上教育政策辯論的進(jìn)行研究,認(rèn)為其中存在“回音室效應(yīng)”,即通過(guò)不斷推動(dòng)小樣本量、不具代表性的言論,也會(huì)對(duì)政策提出產(chǎn)生影響[15]。

    在考察“信息繭房”存在程度時(shí),來(lái)自MIT的學(xué)者Sagit Bar-Gill等認(rèn)為個(gè)體會(huì)由于其在網(wǎng)絡(luò)中的不同角色在“繭房”存在的程度上存在差異。學(xué)者們運(yùn)用實(shí)驗(yàn)法,構(gòu)建了名為T(mén)ED-it的在線搜索環(huán)境,用戶可以通過(guò)主題(topic)或流行度(popularity)兩個(gè)搜索維度觀看TED視頻。學(xué)者們?cè)?017年3月[16]與8月[17]分別發(fā)布兩次報(bào)告,研究發(fā)現(xiàn)高社交程度、重復(fù)先前相似內(nèi)容的、年輕(在8月發(fā)布的報(bào)告中補(bǔ)充了關(guān)于年齡的要素)閱讀者容易陷入“信息繭房”。流行的信息提高了意見(jiàn)領(lǐng)袖們的搜索排序,但并沒(méi)有拓展“非意見(jiàn)領(lǐng)袖”的信息接觸面。

    在逐漸積累關(guān)注細(xì)節(jié)、量化的實(shí)證研究后,傳播學(xué)者們總結(jié)出新聞推薦系統(tǒng)“信息繭房”從個(gè)體到社會(huì)的多層次危害分析思路。在個(gè)體層面,美國(guó)學(xué)者Kathryn Jemison和Joseph Capela在著作《回聲室效應(yīng):拉什·林博和保守主義媒體的建設(shè)》中定義“回音室效應(yīng)”為,在媒體營(yíng)造的相對(duì)較為封閉的意見(jiàn)感知環(huán)境中,意見(jiàn)相近的聲音會(huì)被不斷地重復(fù)、夸張和扭曲,從而讓處于這個(gè)封閉環(huán)境中的人對(duì)這些夸張和扭曲的極端觀點(diǎn)越來(lái)越深信不疑的現(xiàn)代傳播學(xué)現(xiàn)象[18]。群體層面,國(guó)內(nèi)傳播學(xué)者梁鋒、喻國(guó)明、陳昌鳳、劉華棟等學(xué)者結(jié)合對(duì)桑斯坦《信息烏托邦》《網(wǎng)絡(luò)共和國(guó)》等著作的提煉,闡述了“信息繭房”從個(gè)體封閉走到群體極化的后果。群體極化是指群體意見(jiàn)中某些既有的偏向,經(jīng)過(guò)商討以后,群體成員繼續(xù)沿著偏向的路線前進(jìn),最后形成極端的觀點(diǎn)。”[19]《“信息繭房”對(duì)網(wǎng)絡(luò)公共領(lǐng)域建構(gòu)的破壞》一文描述“信息繭房”的危害體現(xiàn)在“‘意見(jiàn)自由表達(dá)受阻、群體極化造成公眾理性批判的缺失、社會(huì)黏性削弱及破壞共同體維系”[20],也是從這3個(gè)層面做出的總結(jié)。

    總的來(lái)看,對(duì)“信息繭房”存在程度甚至是否存在還存在爭(zhēng)議,還需更多關(guān)注細(xì)節(jié)、量化的實(shí)證研究進(jìn)行完善。國(guó)內(nèi)傳播學(xué)者量化成果較少,王茜關(guān)于今日頭條的量化研究受樣本數(shù)量制約,其難點(diǎn)之一在于缺乏相關(guān)的公開(kāi)、真實(shí)、足夠數(shù)據(jù)量的數(shù)據(jù)集進(jìn)行研究使用。倘若收集得到真實(shí)用戶的匿名行為數(shù)據(jù)集,就可參照計(jì)算傳播學(xué)研究范式,進(jìn)行諸如學(xué)者王成軍利用Digg社區(qū)數(shù)據(jù)集,對(duì)新聞在注意力場(chǎng)中的“逃逸”問(wèn)題[21]所做的結(jié)合用戶行為模擬并進(jìn)行模型曲線擬合的數(shù)理性實(shí)證研究。難點(diǎn)之二在于新聞學(xué)研究者目前對(duì)于網(wǎng)絡(luò)科學(xué)的理論(如同質(zhì)化理論、資源依賴?yán)碚?、社?huì)影響理論)的使用依然有限[22],而學(xué)科間還未產(chǎn)生廣泛交流與討論。

    3 新聞在推薦系統(tǒng)情境中三個(gè)環(huán)節(jié)傳播的流程模型及針對(duì)性建議

    在對(duì)新聞推薦系統(tǒng)進(jìn)行了背景與現(xiàn)狀綜述的基礎(chǔ)上,筆者受上述學(xué)科視角啟發(fā),構(gòu)建新聞在推薦系統(tǒng)情境中包含信息流和數(shù)據(jù)流的“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”傳播流程模型(圖4)。這一模型指出了用戶“閱讀個(gè)性化”與新聞推薦系統(tǒng)“傳播個(gè)性化”之間的關(guān)系,并進(jìn)一步解釋了“信息繭房”問(wèn)題在現(xiàn)有技術(shù)條件下的必然和可能的突破環(huán)節(jié)。

    如圖4所示,新聞推薦系統(tǒng)中存在信息流與數(shù)據(jù)流兩個(gè)信息運(yùn)動(dòng)方向。筆者將新聞推薦系統(tǒng)內(nèi)的6個(gè)典型行為“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”劃分為3個(gè)環(huán)節(jié)。

    從信息流向來(lái)看,新聞信息從作為原始傳者的內(nèi)容生產(chǎn)者發(fā)布到數(shù)字媒體平臺(tái)上,作為中介傳者的新聞推薦系統(tǒng)抓取并推送給受眾閱讀。

    從數(shù)據(jù)流向來(lái)看,作為原始傳者的內(nèi)容生產(chǎn)者創(chuàng)作、發(fā)布內(nèi)容,其發(fā)布的新聞作為D1(數(shù)據(jù)源1)被推薦系統(tǒng)抓取,處理為產(chǎn)品模型M1。作為受者的用戶對(duì)推薦系統(tǒng)前臺(tái)(所瀏覽的新聞網(wǎng)頁(yè)等)執(zhí)行點(diǎn)擊行為,對(duì)新聞信息執(zhí)行閱讀行為。其中,前一個(gè)行為產(chǎn)生的用戶行為日志作為D2(數(shù)據(jù)源2)被處理為用戶模型M2。推薦系統(tǒng)因而扮演著二者之間的中介角色,推薦算法通過(guò)機(jī)器學(xué)習(xí),不斷優(yōu)化決策,以達(dá)到個(gè)性化的推薦決策。舉例來(lái)說(shuō),Youtube推薦算法①包含兩個(gè)機(jī)器學(xué)習(xí)目標(biāo),第一個(gè)是生成候選集,以用戶觀看歷史為輸入,使用協(xié)同過(guò)濾等技術(shù)在數(shù)以萬(wàn)計(jì)的視頻中進(jìn)行選擇;第二個(gè)神經(jīng)網(wǎng)絡(luò)則用于對(duì)視頻們進(jìn)行排序,使用邏輯回歸計(jì)算每個(gè)視頻得分,然后不斷使用A/B測(cè)試進(jìn)行

    改進(jìn)。

    通過(guò)這兩組信息運(yùn)動(dòng)流向的比較中可以發(fā)現(xiàn),用戶“閱讀個(gè)性化”與新聞推薦系統(tǒng)“傳播個(gè)性化”之間,是通過(guò)用戶“點(diǎn)擊”的數(shù)據(jù)流輸入新聞推薦系統(tǒng),推薦系統(tǒng)基于此進(jìn)行機(jī)器學(xué)習(xí)將個(gè)性化信息流輸出給用戶,達(dá)到了“傳播個(gè)性化”。因此,用戶接受的個(gè)性化信息的質(zhì)量一部分取決于原始傳者,即內(nèi)容生產(chǎn)者,另一部分很大程度上取決于作為中介傳者的推薦系統(tǒng)。在中介環(huán)節(jié),推薦算法在用戶物品關(guān)系矩陣中攫取有效信息反過(guò)來(lái)填充這個(gè)矩陣,這是一個(gè)正向自我強(qiáng)化過(guò)程,越走越窄是宿命①。如果系統(tǒng)只對(duì)探測(cè)到的用戶興趣進(jìn)行“開(kāi)采利用”,而不發(fā)現(xiàn)新的用戶興趣,將無(wú)可避免地走向“信息繭房”。

    雖然計(jì)算機(jī)學(xué)界已經(jīng)提出在推薦算法的設(shè)計(jì)中從“開(kāi)采利用”向“探索利用”優(yōu)化,但在目前仍處在研究的初期。包含3個(gè)環(huán)節(jié)的傳播流程圖啟發(fā)我們,解決新聞推薦系統(tǒng)“信息繭房”問(wèn)題,也可關(guān)注其與內(nèi)容生產(chǎn)方、與用戶之間的信息互動(dòng)。

    在與內(nèi)容的洽接環(huán)節(jié),提高內(nèi)容的廣度與質(zhì)量。目前應(yīng)用新聞推薦系統(tǒng)的媒體主要包含3類:門(mén)戶網(wǎng)站的移動(dòng)端應(yīng)用“騰訊新聞”等、內(nèi)容推薦引擎“今日頭條”“一點(diǎn)資訊”等、包含“Newsfeed”(信息流推送)的社交媒體“Facebook”“微博”等。而這些媒體對(duì)于合作媒體、自媒體、社交主頁(yè)等信息資源的采納權(quán)重不盡相同。自媒體信息質(zhì)量良莠不齊,在消息審核上仍存盲區(qū),提高新聞數(shù)據(jù)庫(kù)的準(zhǔn)入機(jī)制,加強(qiáng)與有宏觀視野、專業(yè)素養(yǎng)和社會(huì)公信力的媒體合作,是提高新聞客觀真實(shí)性、統(tǒng)括來(lái)自不同領(lǐng)域、不同階層、不同利益群體的立場(chǎng)和態(tài)度的有效舉措。

    需要注意的是,在內(nèi)容準(zhǔn)入審核時(shí)不應(yīng)局限文本信息。隨著融合媒體的發(fā)展,短視頻、直播、互動(dòng)問(wèn)答等多樣化的形式正在進(jìn)入分發(fā)平臺(tái)的融合媒體內(nèi)容端口,成為未來(lái)內(nèi)容審核新的挑戰(zhàn)。

    在于用戶間的信息互動(dòng)環(huán)節(jié),應(yīng)重視用戶心理的自省,發(fā)掘其自主能動(dòng)性。例如開(kāi)發(fā)新聞推薦系統(tǒng)的閱讀歷史可視化插件,在原有傳播流程的基礎(chǔ)上,增加推薦系統(tǒng)的一個(gè)數(shù)據(jù)輸出渠道(圖5)。

    采集了用戶行為日志的推薦系統(tǒng)不應(yīng)“壟斷”數(shù)據(jù),而應(yīng)將其算法決策轉(zhuǎn)換為給用戶的直觀提示,例如用餅圖為用戶直觀地展現(xiàn)每日閱讀的各類新聞比例。用戶的無(wú)意識(shí)行為助力的決策需要得到提示和反饋,以便使用戶認(rèn)知的不完備可以通過(guò)增強(qiáng)心理上的“自我反省”來(lái)彌補(bǔ),這也是算法“可解釋性”的基本倫理原則[23]。

    總的來(lái)說(shuō),推動(dòng)新聞推薦系統(tǒng)“信息繭房”問(wèn)題的解決:

    一是要提高新聞內(nèi)容的廣度與質(zhì)量;二是加大對(duì)推薦算法精確度以外其他指標(biāo)的考量,進(jìn)行“探索利用”嘗試;三是重視用戶心理的自省,例如開(kāi)發(fā)新聞推薦系統(tǒng)的相關(guān)插件,完善新聞推薦產(chǎn)品

    生態(tài)。

    喻國(guó)明等學(xué)者在《傳播學(xué)研究范式的創(chuàng)新:以媒介接觸與使用的研究為例——用戶媒介接觸與使用的研究范式及學(xué)術(shù)框架》[24]中指出,移動(dòng)傳播技術(shù)使傳播行為復(fù)雜化和結(jié)構(gòu)化,在考察新環(huán)境下媒介用戶的媒介接觸與使用特征時(shí),可建立起適合移動(dòng)互聯(lián)傳播環(huán)境的“時(shí)間—空間—媒介接觸行為—社會(huì)關(guān)系—心理效果”五維研究框架。解決“信息繭房”問(wèn)題,還需通過(guò)社會(huì)科學(xué)的理論研究,與自然科學(xué)的創(chuàng)新開(kāi)發(fā),共同推動(dòng)新聞推薦系統(tǒng)的發(fā)展與創(chuàng)新,同時(shí)在新的技術(shù)與媒體環(huán)境中,更進(jìn)一步認(rèn)識(shí)當(dāng)今數(shù)字化時(shí)代中新聞的責(zé)任、定位與發(fā)展

    方向。

    注釋

    ①微信公眾號(hào)“AI前線”《YouTube和今日頭條很委屈:色情暴力的鍋推薦系統(tǒng)該不該背?》http://mp.weixin.qq.com/s/jhuFVLOnbjO0-J27B3cYiA.

    參考文獻(xiàn)

    [1]項(xiàng)亮.推薦系統(tǒng)實(shí)踐[M].北京:人民郵電出版社,2012:4,23-33.

    [2]桑斯坦.信息烏托邦[M].北京:法律出版社,2008.

    [3]王益成,王萍,王美月,等.信息運(yùn)動(dòng)視角下內(nèi)容智能分發(fā)平臺(tái)突破“信息繭房”策略研究[J/OL].情報(bào)理論與實(shí)踐.[2018-01-31].http://kns.cnki.net/kcms/detail/11.1762.G3.20180131.1144.002.html.

    [4]Resnick P,Varian H R.Recommender Systems [J].Communications of the ACM,1997,40(3):56-58.

    [5]劉輝,郭夢(mèng)夢(mèng),潘偉強(qiáng).個(gè)性化推薦系統(tǒng)綜述[J].常州大學(xué)學(xué)報(bào)(自然科學(xué)版),2017,29(3):51-59.

    [6]Mcnee S M,Riedl J,Konstan J A.Being accurate is not enough[J].2006.

    [7]安維,劉啟華,張李義.個(gè)性化推薦系統(tǒng)的多樣性研究進(jìn)展[J].圖書(shū)情報(bào)工作,2013,57(20):127-135.

    [8]程士安,沈恩紹.數(shù)字化時(shí)代組織傳播理論的解釋與重構(gòu)——以科技進(jìn)步與傳播規(guī)律的演進(jìn)為視角[J].新聞大學(xué),2009(2):119-124.

    [9]梁鋒.信息繭房(information cocoons)[J].新聞前哨,2013(1):87.

    [10]劉華棟.社交媒體“信息繭房”的隱憂與對(duì)策[J].中國(guó)廣播電視學(xué)刊,2017(4):54-57.

    [11]陳昌鳳,張心蔚.信息個(gè)人化、信息偏向與技術(shù)性糾偏——新技術(shù)時(shí)代我們?nèi)绾潍@取信息[J].新聞與寫(xiě)作,2017(8):42-45.

    [12]王茜.打開(kāi)算法分發(fā)的“黑箱”——基于今日頭條新聞推送的量化研究[J].新聞?dòng)浾撸?017(9):7-14.

    [13]王秋旭.信息繭房效應(yīng)下微博群體極化現(xiàn)象分析[J].新聞研究導(dǎo)刊,2015(7):177-178.

    [14]Zuiderveen Borgesius F J,Trilling D, Moeller J,et al.Should We Worry About Filter Bubbles?[J].Social Science Electronic Publishing,2016.

    [15]Goldie,David|Linick, Matthew|Jabbar,Huriya|Lubienski,Christopher.Using Bibliometric and Social Media Analyses to Explore the “Echo Chamber” Hypothesis[J].Educational Policy,2014,28(2):281-305.

    [16]Bargill S,Gandal N.Online Exploration,Content Choice & Echo Chambers:An Experiment[J].Cepr Discussion Papers,2017.

    [17]Bargill S,Gandal N.Online Exploration When Search Topic and Popularity Ranking Are Decoupled:Insights on Echo Chambers[J].Social Science Electronic Publishing,2017.

    [18]許志源,唐維庸.2016美國(guó)大選所透射的“過(guò)濾氣泡”現(xiàn)象與啟示[J].傳媒,2017(16).

    [19]凱斯·桑斯坦,桑斯坦,英維明.網(wǎng)絡(luò)共和國(guó):網(wǎng)絡(luò)社會(huì)中的民主問(wèn)題[M].上海:上海人民出版社,2003.

    [20]胡婉婷.“信息繭房”對(duì)網(wǎng)絡(luò)公共領(lǐng)域建構(gòu)的破壞[J].青年記者,2016(15):26-27.

    [21]Wang C J,Wu L,Zhang J,et al.The Collective Direction of Attention Diffusion[J].Scientific Reports,2016(6):34059.

    [22]王成軍.計(jì)算社會(huì)科學(xué)視野下的新聞學(xué)研究:挑戰(zhàn)與機(jī)遇[J].新聞大學(xué),2017(4):26-32.

    [23]Mittelstadt B,Allo P,Taddeo M,et al.The Ethics of Algorithms:Mapping the Debate[J].

    2016(2).

    [24]喻國(guó)明,何其聰,吳文汐.傳播學(xué)研究范式的創(chuàng)新:以媒介接觸與使用的研究為例——用戶媒介接觸與使用的研究范式及學(xué)術(shù)框架[J].新聞大學(xué),2017(1):

    85-93.

    猜你喜歡
    信息繭房個(gè)性化推薦推薦系統(tǒng)
    微時(shí)代大學(xué)生“信息繭房”效應(yīng)干預(yù)
    社交媒體時(shí)代下新聞產(chǎn)需變化芻議
    新媒體研究(2017年7期)2017-05-24 19:30:03
    基于用戶偏好的信任網(wǎng)絡(luò)隨機(jī)游走推薦模型
    “信息繭房”禁錮了我們的雙眼
    今傳媒(2016年12期)2017-01-09 08:31:04
    基于鏈?zhǔn)酱鎯?chǔ)結(jié)構(gòu)的協(xié)同過(guò)濾推薦算法設(shè)計(jì)與實(shí)現(xiàn)
    基于個(gè)性化的協(xié)同過(guò)濾圖書(shū)推薦算法研究
    個(gè)性化推薦系統(tǒng)關(guān)鍵算法探討
    基于協(xié)同過(guò)濾算法的個(gè)性化圖書(shū)推薦系統(tǒng)研究
    “信息繭房”禁錮了我們的雙眼(觀察家)
    淺談Mahout在個(gè)性化推薦系統(tǒng)中的應(yīng)用
    欧美精品国产亚洲| 亚洲三级黄色毛片| 在线a可以看的网站| 精品久久久久久久久亚洲| 舔av片在线| 好男人在线观看高清免费视频| 国产久久久一区二区三区| 伊人久久精品亚洲午夜| 亚洲欧美日韩无卡精品| 亚洲av第一区精品v没综合| 最近2019中文字幕mv第一页| a级一级毛片免费在线观看| 寂寞人妻少妇视频99o| 丰满的人妻完整版| 男人的好看免费观看在线视频| 国产精品久久电影中文字幕| 成人亚洲欧美一区二区av| 国产av一区在线观看免费| 成人美女网站在线观看视频| 国产熟女欧美一区二区| 男女做爰动态图高潮gif福利片| 最近中文字幕高清免费大全6| 日本撒尿小便嘘嘘汇集6| 国产伦精品一区二区三区四那| 永久网站在线| 丰满人妻一区二区三区视频av| 毛片一级片免费看久久久久| 国产又黄又爽又无遮挡在线| 国产女主播在线喷水免费视频网站 | 国产精品久久久久久av不卡| 中文字幕免费在线视频6| 国产探花极品一区二区| avwww免费| 嫩草影院新地址| 免费在线观看成人毛片| 欧美激情国产日韩精品一区| 3wmmmm亚洲av在线观看| 精品久久久久久久末码| 国产精品一区二区免费欧美| 麻豆久久精品国产亚洲av| 亚洲av免费在线观看| 欧美xxxx黑人xx丫x性爽| 午夜精品国产一区二区电影 | 伦精品一区二区三区| 亚洲精品亚洲一区二区| 综合色丁香网| 一级av片app| 亚洲无线观看免费| 人人妻人人澡欧美一区二区| 搡老妇女老女人老熟妇| 精品久久久久久成人av| 欧美不卡视频在线免费观看| 男女做爰动态图高潮gif福利片| 男女视频在线观看网站免费| 老师上课跳d突然被开到最大视频| av天堂中文字幕网| 亚州av有码| 俺也久久电影网| 最近最新中文字幕大全电影3| 国产老妇女一区| 久久精品国产清高在天天线| 久久国内精品自在自线图片| 亚洲av中文字字幕乱码综合| 午夜福利18| 深爱激情五月婷婷| 欧美高清性xxxxhd video| 欧美激情久久久久久爽电影| 久久精品久久久久久噜噜老黄 | 欧美性猛交黑人性爽| 午夜爱爱视频在线播放| 日日摸夜夜添夜夜添av毛片| 欧美日韩精品成人综合77777| 岛国在线免费视频观看| 亚洲天堂国产精品一区在线| 91久久精品电影网| 99九九线精品视频在线观看视频| 特大巨黑吊av在线直播| 欧美日韩综合久久久久久| 久久久成人免费电影| 日韩欧美精品免费久久| 中文字幕久久专区| 午夜福利在线在线| 女人十人毛片免费观看3o分钟| 色av中文字幕| 亚洲av二区三区四区| 日本 av在线| 美女内射精品一级片tv| 成人美女网站在线观看视频| 久久欧美精品欧美久久欧美| 欧美激情在线99| 别揉我奶头 嗯啊视频| av福利片在线观看| 欧美精品国产亚洲| 国产亚洲欧美98| 欧美绝顶高潮抽搐喷水| 日本 av在线| 久久久久国内视频| 免费一级毛片在线播放高清视频| 老熟妇仑乱视频hdxx| 露出奶头的视频| 国产日本99.免费观看| 伊人久久精品亚洲午夜| 国产高清激情床上av| 欧美一区二区国产精品久久精品| 日韩强制内射视频| 啦啦啦韩国在线观看视频| 国产白丝娇喘喷水9色精品| ponron亚洲| 亚洲综合色惰| 精品免费久久久久久久清纯| 欧美xxxx性猛交bbbb| 级片在线观看| 变态另类成人亚洲欧美熟女| 午夜福利高清视频| 99久久中文字幕三级久久日本| 天美传媒精品一区二区| 最近的中文字幕免费完整| 又爽又黄无遮挡网站| 国产探花在线观看一区二区| 国产精品永久免费网站| 成人鲁丝片一二三区免费| 国产麻豆成人av免费视频| 最后的刺客免费高清国语| 日本免费a在线| 欧美性猛交╳xxx乱大交人| 非洲黑人性xxxx精品又粗又长| 亚洲第一电影网av| 欧美日韩国产亚洲二区| ponron亚洲| 国产亚洲91精品色在线| 99久久精品国产国产毛片| 午夜久久久久精精品| 波野结衣二区三区在线| 国产一区二区在线观看日韩| 免费看美女性在线毛片视频| 在线免费观看不下载黄p国产| 可以在线观看毛片的网站| 身体一侧抽搐| 成人国产麻豆网| 六月丁香七月| 97碰自拍视频| 久久精品影院6| 国模一区二区三区四区视频| 成年免费大片在线观看| 日本在线视频免费播放| 欧美高清成人免费视频www| 白带黄色成豆腐渣| 少妇人妻一区二区三区视频| 欧美精品国产亚洲| 超碰av人人做人人爽久久| 能在线免费观看的黄片| 国产在视频线在精品| 精品少妇黑人巨大在线播放 | 可以在线观看的亚洲视频| 日本在线视频免费播放| 黄色配什么色好看| 99国产极品粉嫩在线观看| 十八禁网站免费在线| 午夜爱爱视频在线播放| 99热精品在线国产| 欧美一区二区精品小视频在线| 日本精品一区二区三区蜜桃| 欧美xxxx黑人xx丫x性爽| 极品教师在线视频| 亚洲成av人片在线播放无| 22中文网久久字幕| 五月玫瑰六月丁香| 97热精品久久久久久| 欧美中文日本在线观看视频| 欧美高清成人免费视频www| 男人舔奶头视频| 精品一区二区免费观看| 最近视频中文字幕2019在线8| 99在线视频只有这里精品首页| 欧美另类亚洲清纯唯美| 国产在线男女| 亚洲色图av天堂| 亚洲欧美日韩无卡精品| 综合色av麻豆| 国产精品嫩草影院av在线观看| 精品久久久久久成人av| 国产伦一二天堂av在线观看| av在线蜜桃| 丰满的人妻完整版| 中国美女看黄片| 亚洲人成网站在线播| 色综合色国产| 国产伦精品一区二区三区视频9| 男女之事视频高清在线观看| 99热精品在线国产| www.色视频.com| 国产精品一区www在线观看| 熟妇人妻久久中文字幕3abv| 久久人人爽人人爽人人片va| 直男gayav资源| 大型黄色视频在线免费观看| 国产成人影院久久av| 成人精品一区二区免费| 我的女老师完整版在线观看| 蜜桃亚洲精品一区二区三区| 天天躁夜夜躁狠狠久久av| 欧美zozozo另类| 精品一区二区三区av网在线观看| 国产高清激情床上av| 午夜爱爱视频在线播放| 国产视频一区二区在线看| 狂野欧美激情性xxxx在线观看| 亚洲精品乱码久久久v下载方式| 国产高清视频在线播放一区| 嫩草影院入口| 国产精品不卡视频一区二区| 久久精品国产自在天天线| 非洲黑人性xxxx精品又粗又长| 桃色一区二区三区在线观看| av免费在线看不卡| 69人妻影院| 国产精品久久久久久av不卡| 中文字幕精品亚洲无线码一区| 国产在线精品亚洲第一网站| 九九在线视频观看精品| 搡女人真爽免费视频火全软件 | 18禁裸乳无遮挡免费网站照片| 午夜精品国产一区二区电影 | 亚洲最大成人手机在线| 国产 一区 欧美 日韩| 精品不卡国产一区二区三区| 在线观看一区二区三区| 免费大片18禁| 久久精品国产99精品国产亚洲性色| 国产亚洲精品av在线| 国产精品一及| 成人二区视频| 国产高潮美女av| 亚洲aⅴ乱码一区二区在线播放| 中文字幕久久专区| 亚洲av.av天堂| 亚洲成a人片在线一区二区| 熟女电影av网| 亚洲av第一区精品v没综合| 人妻丰满熟妇av一区二区三区| 少妇丰满av| 乱系列少妇在线播放| 网址你懂的国产日韩在线| 亚洲国产欧美人成| 天堂网av新在线| 欧美日韩精品成人综合77777| 国产淫片久久久久久久久| 人人妻人人澡人人爽人人夜夜 | 亚洲三级黄色毛片| 久久这里只有精品中国| 99热全是精品| 国产精品一区二区性色av| 99久久无色码亚洲精品果冻| 午夜免费男女啪啪视频观看 | 在线播放无遮挡| 97超视频在线观看视频| 亚洲第一电影网av| 男女下面进入的视频免费午夜| 精品无人区乱码1区二区| 中文亚洲av片在线观看爽| 国产高清有码在线观看视频| 老师上课跳d突然被开到最大视频| 欧美日韩在线观看h| 精品一区二区三区视频在线| 3wmmmm亚洲av在线观看| 日韩亚洲欧美综合| 三级男女做爰猛烈吃奶摸视频| 国产精品三级大全| 日本三级黄在线观看| 日本与韩国留学比较| 久久国内精品自在自线图片| 亚洲成人av在线免费| 免费观看人在逋| 精品久久久噜噜| 国产伦精品一区二区三区视频9| 夜夜夜夜夜久久久久| 国产午夜福利久久久久久| 男女视频在线观看网站免费| 亚洲国产精品合色在线| av在线天堂中文字幕| 亚洲欧美日韩高清在线视频| 色综合亚洲欧美另类图片| 欧美丝袜亚洲另类| 22中文网久久字幕| 成人av在线播放网站| .国产精品久久| 亚洲av第一区精品v没综合| 精品久久久久久久人妻蜜臀av| 99热只有精品国产| 亚洲不卡免费看| 国产精品无大码| 久99久视频精品免费| 在线天堂最新版资源| 色播亚洲综合网| 国产精品亚洲美女久久久| 天堂√8在线中文| 日韩欧美国产在线观看| 亚洲美女视频黄频| 特大巨黑吊av在线直播| 搡老岳熟女国产| 久久久久性生活片| 波多野结衣高清无吗| 午夜精品在线福利| 欧美三级亚洲精品| 午夜免费激情av| 亚洲av五月六月丁香网| 欧美在线一区亚洲| 免费无遮挡裸体视频| 美女xxoo啪啪120秒动态图| 国产精品野战在线观看| 国产国拍精品亚洲av在线观看| 久久久久精品国产欧美久久久| 国产精品无大码| 午夜激情福利司机影院| 亚洲精品在线观看二区| 久久精品国产亚洲网站| av在线观看视频网站免费| 精品一区二区三区视频在线| 寂寞人妻少妇视频99o| 久久久久国内视频| 国产视频一区二区在线看| 欧美成人a在线观看| 久久亚洲国产成人精品v| 午夜a级毛片| 亚洲欧美清纯卡通| 18+在线观看网站| 午夜a级毛片| 高清毛片免费观看视频网站| 精品久久久噜噜| 成人三级黄色视频| 天天躁日日操中文字幕| 久久久久久久亚洲中文字幕| 国产一级毛片七仙女欲春2| www.色视频.com| 国产精品美女特级片免费视频播放器| 国产在线男女| 欧美bdsm另类| 欧美激情在线99| 黄色欧美视频在线观看| 蜜臀久久99精品久久宅男| 欧美日韩乱码在线| 亚洲国产精品久久男人天堂| 寂寞人妻少妇视频99o| 乱人视频在线观看| 九九爱精品视频在线观看| 国内精品美女久久久久久| 超碰av人人做人人爽久久| 久久久久精品国产欧美久久久| 日本免费一区二区三区高清不卡| 搡老妇女老女人老熟妇| 国产精品电影一区二区三区| 久久亚洲精品不卡| 久久精品国产99精品国产亚洲性色| 99国产极品粉嫩在线观看| 六月丁香七月| 亚洲成av人片在线播放无| 日韩强制内射视频| 国产午夜精品论理片| 噜噜噜噜噜久久久久久91| 国产精品野战在线观看| 91久久精品国产一区二区三区| 午夜视频国产福利| or卡值多少钱| 搡老熟女国产l中国老女人| 久久久久久久午夜电影| 亚洲国产日韩欧美精品在线观看| 久久久精品94久久精品| 97超碰精品成人国产| 亚洲国产欧美人成| 国产精品不卡视频一区二区| 日本免费a在线| 一个人看视频在线观看www免费| 日韩欧美免费精品| 97超碰精品成人国产| 久久久精品欧美日韩精品| 看黄色毛片网站| 淫秽高清视频在线观看| 国产精品亚洲美女久久久| 欧美一区二区亚洲| 日本熟妇午夜| 美女内射精品一级片tv| 久久精品91蜜桃| 毛片女人毛片| 精品人妻偷拍中文字幕| a级毛色黄片| 国产精品无大码| 国产精品伦人一区二区| 一区福利在线观看| 国产91av在线免费观看| 久久精品久久久久久噜噜老黄 | 麻豆av噜噜一区二区三区| 人人妻人人澡欧美一区二区| 特大巨黑吊av在线直播| 久久99热这里只有精品18| av黄色大香蕉| 国产男人的电影天堂91| 国内精品久久久久精免费| 天堂动漫精品| 国产激情偷乱视频一区二区| 成人漫画全彩无遮挡| 特级一级黄色大片| 女人十人毛片免费观看3o分钟| 国产黄片美女视频| 午夜福利视频1000在线观看| 身体一侧抽搐| 一级黄片播放器| 亚洲成人精品中文字幕电影| 99热这里只有精品一区| 99热只有精品国产| a级一级毛片免费在线观看| 噜噜噜噜噜久久久久久91| av在线亚洲专区| 日日干狠狠操夜夜爽| 婷婷亚洲欧美| 午夜福利视频1000在线观看| ponron亚洲| 美女 人体艺术 gogo| 亚洲av中文av极速乱| 欧美色欧美亚洲另类二区| 搡老岳熟女国产| 成年av动漫网址| 久久久久久久久大av| 丝袜喷水一区| 欧美性猛交黑人性爽| 久久久久免费精品人妻一区二区| 国产高清有码在线观看视频| 亚洲成人av在线免费| 亚洲av免费高清在线观看| 一进一出抽搐gif免费好疼| 在线免费观看不下载黄p国产| 国产三级在线视频| 欧洲精品卡2卡3卡4卡5卡区| 亚洲av美国av| 18+在线观看网站| 日韩成人av中文字幕在线观看 | 别揉我奶头~嗯~啊~动态视频| 亚洲精品亚洲一区二区| 91精品国产九色| 久久99热这里只有精品18| 久久人妻av系列| 亚洲精品粉嫩美女一区| 亚洲,欧美,日韩| 毛片一级片免费看久久久久| 午夜福利在线观看免费完整高清在 | 亚洲人与动物交配视频| 精品人妻视频免费看| 午夜精品国产一区二区电影 | 亚洲中文字幕一区二区三区有码在线看| 久久久色成人| 国产av在哪里看| 极品教师在线视频| 色吧在线观看| 国产激情偷乱视频一区二区| 少妇裸体淫交视频免费看高清| 大香蕉久久网| 亚洲最大成人手机在线| 日本五十路高清| 色av中文字幕| 亚洲国产欧洲综合997久久,| 亚洲中文日韩欧美视频| 免费大片18禁| av福利片在线观看| 亚洲成人久久爱视频| 亚洲美女黄片视频| 在线播放国产精品三级| 国产欧美日韩精品亚洲av| 久久亚洲国产成人精品v| 一级毛片久久久久久久久女| 免费av不卡在线播放| 老司机影院成人| 2021天堂中文幕一二区在线观| 夜夜看夜夜爽夜夜摸| 欧美色视频一区免费| 国产av在哪里看| 一卡2卡三卡四卡精品乱码亚洲| 国产精品国产三级国产av玫瑰| av专区在线播放| 精品免费久久久久久久清纯| 熟女电影av网| 国产日本99.免费观看| 久久精品国产自在天天线| 又黄又爽又刺激的免费视频.| 一级毛片电影观看 | 老司机午夜福利在线观看视频| 久久亚洲精品不卡| 啦啦啦韩国在线观看视频| 我要搜黄色片| 中文亚洲av片在线观看爽| 久久精品夜色国产| 午夜a级毛片| 午夜精品一区二区三区免费看| 成人漫画全彩无遮挡| 国产白丝娇喘喷水9色精品| 日韩亚洲欧美综合| 国产精品无大码| 中文在线观看免费www的网站| 久久久久久国产a免费观看| 成人高潮视频无遮挡免费网站| 性色avwww在线观看| 欧美+亚洲+日韩+国产| 亚洲av电影不卡..在线观看| 国产精品一区二区三区四区久久| 天堂av国产一区二区熟女人妻| 日日干狠狠操夜夜爽| 精品熟女少妇av免费看| 啦啦啦啦在线视频资源| 亚洲综合色惰| 欧美日本视频| 亚洲婷婷狠狠爱综合网| 亚洲精品亚洲一区二区| 高清毛片免费看| 亚洲国产欧美人成| 成年版毛片免费区| 一进一出抽搐动态| 看非洲黑人一级黄片| 中文字幕久久专区| 69人妻影院| 国内精品美女久久久久久| 啦啦啦啦在线视频资源| 免费不卡的大黄色大毛片视频在线观看 | 精品一区二区免费观看| 国产在线男女| 六月丁香七月| 亚洲精品日韩在线中文字幕 | 黄色日韩在线| 能在线免费观看的黄片| 久久精品久久久久久噜噜老黄 | 又黄又爽又刺激的免费视频.| 舔av片在线| 国产视频一区二区在线看| 一级黄片播放器| 免费av毛片视频| 日韩欧美在线乱码| videossex国产| 国产精品久久久久久亚洲av鲁大| 国产av一区在线观看免费| a级毛片免费高清观看在线播放| 网址你懂的国产日韩在线| 熟女人妻精品中文字幕| 男人舔女人下体高潮全视频| 国产欧美日韩精品一区二区| 欧美激情在线99| 12—13女人毛片做爰片一| 亚洲av电影不卡..在线观看| 成年女人永久免费观看视频| h日本视频在线播放| 午夜激情福利司机影院| www.色视频.com| 在线播放无遮挡| 精品久久久久久久末码| av中文乱码字幕在线| 久久精品国产鲁丝片午夜精品| 亚洲最大成人av| 成人亚洲欧美一区二区av| 秋霞在线观看毛片| 免费电影在线观看免费观看| 搡老熟女国产l中国老女人| 国产精华一区二区三区| 午夜福利18| 国产成人a区在线观看| 国产高清有码在线观看视频| 精品人妻偷拍中文字幕| 欧美国产日韩亚洲一区| 国产精品精品国产色婷婷| 高清午夜精品一区二区三区 | 亚洲欧美日韩东京热| 国产欧美日韩一区二区精品| 在线观看一区二区三区| 18+在线观看网站| 亚洲va在线va天堂va国产| 亚洲欧美日韩无卡精品| 大又大粗又爽又黄少妇毛片口| а√天堂www在线а√下载| 12—13女人毛片做爰片一| 欧洲精品卡2卡3卡4卡5卡区| 中国国产av一级| 国产精品久久久久久久电影| 男人狂女人下面高潮的视频| 国产av不卡久久| 一个人看的www免费观看视频| 一级黄片播放器| 亚洲av美国av| 久久久久国产精品人妻aⅴ院| 热99re8久久精品国产| 国产精品一及| 国产探花极品一区二区| 精品人妻熟女av久视频| 国产精品久久久久久精品电影| 国产精品亚洲美女久久久| 日韩亚洲欧美综合| 国产伦精品一区二区三区视频9| 亚洲欧美成人精品一区二区| 亚洲av免费高清在线观看| 国产不卡一卡二| 国产亚洲精品综合一区在线观看| 免费观看的影片在线观看| 深夜a级毛片| 日日摸夜夜添夜夜添小说| 嫩草影院入口| 无遮挡黄片免费观看| 成人一区二区视频在线观看| 一边摸一边抽搐一进一小说| 国产真实伦视频高清在线观看| 联通29元200g的流量卡| 成人无遮挡网站| 久久国产乱子免费精品| 波多野结衣巨乳人妻| 男插女下体视频免费在线播放| 欧美日韩精品成人综合77777| 波多野结衣巨乳人妻| 毛片女人毛片| 国内揄拍国产精品人妻在线| 亚洲无线观看免费| 能在线免费观看的黄片| av免费在线看不卡|