• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    交往語境中的社交機器人:技術(shù)邏輯視角下機器人格建構(gòu)

    2025-02-21 00:00:00韓秀張洪忠斗維紅
    關(guān)鍵詞:人格算法

    摘 要:如何看待社交機器人的機器人格?以社交機器人小冰為例,采用專家訪談法對技術(shù)邏輯視角下機器人格建構(gòu)展開研究發(fā)現(xiàn):在機器人格的先賦性方面,生產(chǎn)者通過構(gòu)建人物背景與基本屬性進(jìn)行畫像賦予,通過具體語境下海量數(shù)據(jù)訓(xùn)練進(jìn)行語料賦予,通過從單一文字到多模態(tài)交互呈現(xiàn)進(jìn)行感官賦予;在機器人格的后致性方面,用戶特性主要決定社交機器人的態(tài)度和喜好,粗糙的情感標(biāo)簽和算法框架背后需要用戶的再加工,機器人格的生成目的是達(dá)成可信的人機交互。最后基于機器行為范式對機器人格先賦性與后致性之間關(guān)系展開討論。

    關(guān)鍵詞:社交機器人;機器人格;聊天機器人;人格;算法

    作者簡介:韓秀,中華女子學(xué)院文化傳播與藝術(shù)學(xué)院講師,主要從事人機傳播視角下的社交機器人、社交媒體分析、媒介與女性研究;張洪忠,北京師范大學(xué)新聞傳播學(xué)院教授,主要從事智能傳播、社交媒體分析研究;斗維紅,蘭州大學(xué)新聞與傳播學(xué)院講師,主要從事智能傳播、新媒體與社會研究。

    基金項目:國家社會科學(xué)專項“增強中華文明海外網(wǎng)絡(luò)傳播力影響力研究”(項目編號:23ZDA094)的階段性成果。

    中圖分類號:G206 文獻(xiàn)標(biāo)識碼:A 文章編號:1001-4403(2025)01-0174-09

    DOI:10.19563/j.cnki.sdzs.2025.01.017

    一、問題與方法

    (一)問題提出

    從傳播學(xué)角度看,社交機器人是在社交網(wǎng)絡(luò)中扮演人的身份、擁有不同程度人格屬性且與人進(jìn)行互動的虛擬AI形象。①【①張洪忠、段澤寧、韓秀:《異類還是共生:社交媒體中的社交機器人研究路徑探討》,《新聞界》2019年第2期,第10-17頁。】當(dāng)前不同形態(tài)的社交機器人在與人類用戶進(jìn)行交往時已能呈現(xiàn)出不同的人格特點。例如,賢二機器僧的人格設(shè)定是一個可愛的小和尚,小冰的人格設(shè)定是一個18歲的活潑美少女,大語言模型ChatGPT在模仿激進(jìn)的民主黨或共和黨時,表現(xiàn)出涉及種族、性別、宗教和政治取向等方面內(nèi)容的系統(tǒng)性偏見。②【②Motoki F,Neto V P,Rodrigues V.More human than human:Measuring ChatGPT political bias.Public Choice,2023,pp.1-21.】

    人格心理學(xué)家們普遍認(rèn)為人格一部分由先天決定,一部分受后天環(huán)境際遇影響。①【①馬修·H.奧爾森、B.R.赫根漢:《人格心理學(xué)入門》,陳會昌、蘇玲譯,中國人民大學(xué)出版社2018年版,第7頁?!客瑯?,作為人工智能技術(shù)產(chǎn)物的社交機器人的機器人格由先賦性和后致性兩部分來建構(gòu)。本研究重點關(guān)注三個問題。一是何謂機器人格。在此部分探討機器人格的概念,從人格到機器人格,機器人格的先賦性與后致性。二是何以機器人格。在這個部分關(guān)注機器人格是如何建構(gòu)的:從先賦性維度出發(fā),社交機器人的機器人格是如何被賦予的;從后致性維度來看,社交機器人的機器人格是如何生成的。三是基于傳播學(xué)研究的最新進(jìn)展,從機器行為范式出發(fā)理解機器人格先賦性與后致性的關(guān)系。

    (二)研究視角與研究方法

    當(dāng)前傳播學(xué)領(lǐng)域?qū)ι缃粰C器人的研究更多是從倫理、法規(guī)、傳播關(guān)系等方面展開的,較少從技術(shù)邏輯出發(fā)來研究社交機器人的特征。然而,社交機器人是建立在人工智能技術(shù)基礎(chǔ)之上的媒介產(chǎn)品。本研究通過對技術(shù)專家的訪談,呈現(xiàn)技術(shù)專家對社交機器人“人格化特點”的理解,還原技術(shù)本身的特性與面貌,而不是基于科幻電影進(jìn)行發(fā)散性想象。

    研究者選擇嵌入在微博、QQ兩種社交媒體中的社交機器人代表產(chǎn)品——小冰②【②2020年7月,微軟宣布將小冰分拆為獨立實體,并繼續(xù)保持投資權(quán)益,小冰團(tuán)隊的多數(shù)原有成員也加入新公司,小冰公司的全稱是“北京紅棉小冰科技有限公司”?!孔鳛榫唧w研究對象。小冰人格化特征較為明顯,在龐大的用戶數(shù)背后有著較強的信息傳播能力。大模型技術(shù)的發(fā)展使得聊天類社交機器人的人機傳播水平有了質(zhì)的飛躍。因此,研究者將2023年之前基于多輪對話技術(shù)的小冰和2023年之后基于大語言模型技術(shù)的小冰進(jìn)行對比研究。

    本研究的訪談工作分為兩個階段,第一階段為2018年11月至2021年11月,第二階段為2023年4月至2024年10月。研究者在每個階段對15位專業(yè)人士進(jìn)行了半結(jié)構(gòu)化(semi-structural)訪談,訪談人數(shù)共計30。兩階段訪談工作的形式為線下面對面的深度訪談或電話采訪、文字采訪。每位訪談?wù)叩脑L談時間在40分鐘至90分鐘不等,過程均遵循“信息飽和原則”。在訪談對象中,24位訪談對象的職業(yè)為互聯(lián)網(wǎng)公司人工智能研究院院長、某大學(xué)系統(tǒng)科學(xué)學(xué)院教授、某大學(xué)計算機學(xué)院副教授、某公司情感機器人研究專家、某互聯(lián)網(wǎng)公司高級工程師、某社交機器人科技公司首席科學(xué)家等。6位訪談對象為小冰公司不同崗位負(fù)責(zé)人、技術(shù)專家。30位被訪者的共同特征體現(xiàn)為有社交機器人生產(chǎn)或研究從業(yè)背景,精通自然語言對話技術(shù)。

    二、什么是機器人格

    (一)機器人格的概念提出

    人格的概念在社會學(xué)領(lǐng)域③【③Goffman E.Embarrassment and social organization.American Journal of Sociology,1956,62(3),pp.264-271.】、心理學(xué)領(lǐng)域④【④Feist A M,Al E.Reconstruction of biochemical networks in microorganisms.Nature Reviews Microbiology,2009,7(2),pp.129-43;津巴多·理查德:《心理學(xué)與生活》,王壘、王甦譯,人民郵電出版社2003年版,第421-460頁?!慷加胁煌年U釋。心理學(xué)領(lǐng)域的研究者認(rèn)為人格智能是人類智能的重要構(gòu)成部分。⑤【⑤Gardner H.Frames of Mind:The Theory of Multiple Intelligences.New York:Basic Books,1985,p.13.】社會學(xué)領(lǐng)域討論的人格主體為人類。隨著技術(shù)的發(fā)展,“機器”的內(nèi)涵從以往自然科學(xué)領(lǐng)域的廣義的“技術(shù)或機器實體”延展至新興研究領(lǐng)域機器行為學(xué)中的“智能機器”⑥【⑥Iyad Rahwan,Manuel Cebrian,Nick Obradovich,et al.Machine Behaviour.Nature,2019,568(7753),p.477,p.477,p.477,pp.480-481,p.480.】,“機器行為”也從傳播學(xué)視角出發(fā)被定義為“人工智能技術(shù)參與的信息傳播活動”⑦【⑦張洪忠、王競一:《機器行為范式:傳播學(xué)研究挑戰(zhàn)與拓展路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報)》2023年第1期,第1-9頁?!俊?/p>

    人工智能技術(shù)的發(fā)展促使社交機器人產(chǎn)品形態(tài)進(jìn)一步多樣化,當(dāng)社交機器人擁有人類的外表設(shè)定,出現(xiàn)人類對話行為,更加智能地傳達(dá)人類情緒和情感時,社交機器人的表現(xiàn)已不能僅僅簡單地用過去傳播學(xué)研究中的“擬人化特點”等表述來涵蓋。

    人機傳播(human-machine communication,HMC)領(lǐng)域的經(jīng)典理論為媒體等同(Media Equation)理論。①【①Reeves B,Nass C.The Media Equation:How People Treat Computers,Television,and New Media Like Real People and Places.CSLI Publications,1996,p.5.】“計算機為社會行動者”(CASA)范式從媒介等同論延展得出,有較高的理論解釋力,機器行為的范式也進(jìn)一步突破和深化了媒體等同理論,突破了人類中心主義的研究傾向。②【②別君華:《AI是傳播主體嗎?人機傳播的興起及超越傳播本體論的限度》,《全球傳媒學(xué)刊》2024年第11期,第57-73頁。】機器人格的研究基于CASA范式和機器行為范式的研究背景展開。本文提出“機器人格”概念:社交機器人在人機傳播過程中表現(xiàn)出的相對持久的特質(zhì)和獨特的特征模式。

    (二)機器人格的先賦性與后致性

    本文引入社會學(xué)領(lǐng)域中的“先賦性”和“后致性”分析視角,同時參照人格心理學(xué)領(lǐng)域?qū)θ说娜烁襁M(jìn)行解釋的主要思路,對社交機器人的機器人格的建構(gòu)進(jìn)行研究。

    首先從社會學(xué)角度理解先賦性和后致性,布勞和鄧肯(Blauamp;Duncan)在1967年分析代際地位流動時,將個人地位獲得的影響因素歸納為兩大層面:以家庭背景為代表的先賦性(ascription)維度和以個人能力和努力為代表的后致性(achievement)維度(也被譯為“后生性”或者“自致性”)。這啟發(fā)了社會科學(xué)領(lǐng)域的學(xué)者基于先賦和后致的視角對不同問題展開研究。綜合來看,社會學(xué)意義上的先賦性指那些與生俱來的、個人不能選擇的社會歷史條件,主要包括國家制度、政策安排、教育環(huán)境、家庭背景、天賦秉性等內(nèi)容;后致性則強調(diào)人們通過后天的勤奮學(xué)習(xí)和主觀努力而獲得的向上社會流動機會,社會按照人的能力、努力程度和工作實績給予相應(yīng)的社會評價和社會地位。

    再從人格心理學(xué)角度理解先賦性和后致性。在討論人的人格之時,遺傳是繞不過去的重要因素。心理學(xué)誕生以來就存在“人格究竟在多大程度上受遺傳影響”的問題,并由此展開了先天論和經(jīng)驗論之爭,也稱天性和教養(yǎng)之爭。

    除了遺傳因素,社會文化因素同樣是一個解釋人的人格的重要因素,例如,人所在的家庭社會經(jīng)濟(jì)水平、家庭規(guī)模、出生次序、所屬國家和地區(qū)、父母的學(xué)歷等,即一個人在出生時就具有的身不由己的環(huán)境條件。而人格心理學(xué)領(lǐng)域秉持經(jīng)驗論的學(xué)者傾向于通過學(xué)習(xí)和認(rèn)知兩大因素來解釋人的人格。學(xué)習(xí)理論強調(diào)人格的可塑性,認(rèn)為學(xué)習(xí)過程在解釋人格時起到了重要作用,人可以通過控制環(huán)境來控制人格發(fā)展。認(rèn)知過程理論認(rèn)為認(rèn)知過程決定了人對環(huán)境信息是如何接收、保持、改造和行動的,并強調(diào)人對行為的自我調(diào)節(jié)。簡言之,認(rèn)知取向的理論強調(diào)人當(dāng)前的經(jīng)驗和未來目的對行為的重要性。

    通過對社交機器人生產(chǎn)者的訪談資料分析發(fā)現(xiàn),社交機器人的機器人格技術(shù)生成邏輯同樣可以對照“先賦性”和“后致性”兩個維度進(jìn)行理解。人格理論家試圖通過描述人格來揭示人的本性在哪些方面與他人不同——即個體差異,以及人們在哪些方面與他人相似。要對人格進(jìn)行全面的理解,需要結(jié)合多種人格理論而不是單個理論。人格理論領(lǐng)域的研究者通常從以下一個或幾個維度展開對人格的解釋和研究:遺傳、社會文化、學(xué)習(xí)、認(rèn)知、特質(zhì)、存在主義-人本主義、無意識機制等。③【③馬修·H.奧爾森、B.R.赫根漢:《人格心理學(xué)入門》,陳會昌、蘇玲譯,中國人民大學(xué)出版社2018年版,第7頁?!科渲校z傳、社會文化是人格先天論中的重要解釋因素,可以延展對應(yīng)本文提出的機器人格的先賦性維度;學(xué)習(xí)、認(rèn)知是人格經(jīng)驗論中的重要解釋因素,可以延展對應(yīng)本文提出的機器人格的后致性維度;人格的特質(zhì)維度中,人的一部分特質(zhì)屬于先天論范疇,一部分特質(zhì)屬于經(jīng)驗論范疇,可以分別對應(yīng)機器人格中的先賦性和后致性特質(zhì)。人和社交機器人并不具有真正意義上的可比性,因而這部分對比是模糊的;在對人的人格進(jìn)行解釋時,存在主義-人本主義、無意識機制是兩大重要解釋因素,但由于社交機器人目前并沒有自由意志和真正意識,這兩部分因素不納入本次研究之中。

    在對社交機器人的機器人格進(jìn)行探索性研究時,本文引入的先賦性和后致性維度超越了為考察人類社會中個體流動機制而建立的布勞-鄧肯模型的原初意義。在對該模型進(jìn)行拓展的后續(xù)研究中,心理因素也被納入該模型中并產(chǎn)生深遠(yuǎn)影響。①【①由于篇幅限制,人與社交機器人的人格研究維度對比表略去,可郵件聯(lián)系作者獲取。】

    基于此,機器人格的先賦性是指,社交機器人被生產(chǎn)者賦予的人物基本信息設(shè)定的綜合屬性,包括性別、年齡、職業(yè)、社會身份、外貌、身材、聲音、語料庫,以及具有某種特定價值觀的算法。機器人格的后致性是指,社交機器人在與用戶進(jìn)行人機傳播的過程中,通過機器學(xué)習(xí)和語料庫擴展、大模型技術(shù)同用戶進(jìn)行情感層面互動,使用戶感受到社交機器人具有某種較為穩(wěn)定、獨特的擬人傾向或者形態(tài)。

    三、機器人格是如何建構(gòu)的?

    (一)先賦性維度:社交機器人的機器人格是如何被賦予的?

    一個人的人格可以被看作是他/她所扮演的多個角色的綜合。從技術(shù)層面看,社交機器人的機器人格中先賦性部分是一種被技術(shù)賦予和設(shè)定的人格,目的是使人機傳播過程更為順暢。例如,聊天機器人的人格是指機器人在對話互動中扮演或執(zhí)行的角色,在這種情況下,人格可以被視為身份背景(background)和個人形象(profile)的組合。②【②Qian Q,Huang M,Zhao H,et al.Assigning personality/identity to a chatting machine for coherent conversation generation.arXiv preprint arXiv,2017.】研究者通過訪談發(fā)現(xiàn),目前機器人格先賦性可以從生產(chǎn)者在畫像層面、語料層面、模態(tài)層面對社交機器人的設(shè)定與賦予來理解。

    1.畫像賦予:構(gòu)建人物背景與基本屬性

    如果想讓社交機器人有更完善的人格特點,關(guān)鍵是要賦予社交機器人固定的人格化特點,年齡、性別、職業(yè)等基本屬性是生產(chǎn)者在產(chǎn)品研發(fā)之初重點考慮的。在社交機器人小冰上線之初,研發(fā)者在基本屬性層面賦予了具體設(shè)定,這種設(shè)定被多位受訪專家認(rèn)為是用戶畫像(或系統(tǒng)畫像)層面的人格設(shè)定?!拔覀儤?gòu)建機器人的人格設(shè)定的首要方面就是persona(用戶畫像),我們內(nèi)部指的是個人的一些基本屬性加上一些性格特點。比如小冰是女生,家在北京,性格特點比較俏皮、外向、搗蛋,統(tǒng)稱為persona?!保ㄐ”逞邪l(fā)團(tuán)隊技術(shù)負(fù)責(zé)人)

    還有的社交機器人的基本屬性是基于用戶需求定制的。例如,復(fù)生AI數(shù)字人。小冰團(tuán)隊申請了利用現(xiàn)實中真人的聲音數(shù)據(jù)、圖像數(shù)據(jù)、社交網(wǎng)絡(luò)數(shù)據(jù),用以復(fù)刻AI數(shù)字人相貌、性格以及創(chuàng)造力的專利。團(tuán)隊與日本合作,給老年家庭配備住家的個人智能助理,很多老年人把小冰設(shè)定為小孫子或是兒時好友?!叭诉^去想要用AI‘復(fù)生’一個人的性格和三觀,可能需要兩到三個月的時間,而到了2024年,這一過程可能僅需一到七天。”(小冰公司某創(chuàng)始人)

    2.語料賦予:具體語境下海量數(shù)據(jù)訓(xùn)練

    除了在用戶畫像層面賦予機器人格,多位受訪專家也提到,在實踐中通過具體語境下的海量數(shù)據(jù)訓(xùn)練也能夠賦予機器人格?!盀榱颂厥鈭鼍暗男枰?,我們通過技術(shù)和運營綜合處理,讓機器人在一定程度上體現(xiàn)預(yù)期中的語言風(fēng)格或人格特點。這種人格特點不僅僅是從技術(shù)上來實現(xiàn),最終還要根據(jù)需要運營。”(某社交機器人科技公司創(chuàng)始人)

    大語言模型技術(shù)的發(fā)展使得用戶感知到的大模型角色更為多元,也更為具體。在人機交往過程中,用戶通過具體描述個人的信息需求并輸入相應(yīng)提示詞,使得基于大模型技術(shù)與海量信息數(shù)據(jù)集的社交機器人能夠提供更加精準(zhǔn)的個性化回應(yīng)?!白鳛榭蒲泄ぷ髡撸苡腥さ囊稽c是,當(dāng)我在大模型對話框中,用您好、請、謝謝等禮貌用語,表達(dá)出對我通過提示詞設(shè)定的角色的尊敬,大模型的回答也會更加有禮貌,并且提供了更加貼近人物角色特點的用語和具體信息?!保炒髮W(xué)計算機系副教授)

    3.感官賦予:從單一文字到多模態(tài)交互

    語言作為交流工具,賦予了社交機器人超乎人們想象的生命力,聊天類社交機器人的語言能力也是生產(chǎn)者產(chǎn)品設(shè)計初期最為看重的?!靶”募夹g(shù)能力是她自己能用什么樣的方式進(jìn)行交互,最開始小冰只有文字聊天能力,后來增加了圖像能力,比如表情包等,再后來是語音能力。文字的、圖像的、語音的,都屬于基礎(chǔ)感官能力。”(小冰某產(chǎn)品總監(jiān))

    在ChatGPT出現(xiàn)之前,社交機器人在人機交互過程中主要是通過扮演信息載體的角色來展開對話,而基于大模型技術(shù)的社交機器人則通過不同模態(tài)的連續(xù)性對話帶給用戶更真實的臨場感。2024年,OpenAI公司推出的GPT-4o展現(xiàn)了實時音視頻通話功能,能夠?qū)τ脩羟楦泻驼Z氣做出即時響應(yīng),被稱為ChatGPT版的HER。①【①電影HER是2013年由環(huán)球影片公司出品的科幻愛情電影,電影中的男主人公接觸到一款先進(jìn)的人工智能操作系統(tǒng)OS1,這款系統(tǒng)能夠和人類流暢對話,并在影片中與人類展開一段戀情?!吭谥袊珹I小冰、聆心智能等技術(shù)團(tuán)隊也致力于提高情感識別能力在文本、音視頻等多模態(tài)AI應(yīng)用中的參與度,在此背景下,類似的基于人工智能技術(shù)的AI伴侶應(yīng)用軟件如Candy.ai、Dream GF、SoulGen、Kupid等也層出不窮?!皬姶蟮亩嗄B(tài)情感識別能力是社交機器人能夠與用戶共情的基礎(chǔ),也只有多模態(tài)情感識別功能,才會使社交機器人由以往的單純工具人轉(zhuǎn)變成滿足人類情感需求的陪伴者?!保成缃粰C器人科技公司技創(chuàng)始人)

    (二)后致性維度:社交機器人的機器人格是如何生成的?

    在社會學(xué)研究中,學(xué)者們更多強調(diào)人們在社會流動過程中后致性因素的作用增多,先賦性因素的作用減弱。②【②楊黎源:《從先賦到后致:新中國60年社會流動機制嬗變》,《浙江社會科學(xué)》2009年第11期,第8-16+125頁?!坑捎谏缃粰C器人并沒有人類意義上的“人格”,在對話過程中,社交機器人的機器人格是通過用戶感知和用戶數(shù)據(jù)訓(xùn)練而生成的,機器人格中的后致性部分在此過程中開始逐漸增多并呈現(xiàn)出差異化的特點。

    1.認(rèn)知生成:態(tài)度和喜好主要由用戶特性決定

    認(rèn)知水平、范圍以及能力等因素在機器人格的先賦性和后致性中都有所體現(xiàn),然而,正如認(rèn)知生成在人格研究中是極其復(fù)雜多變的,其在機器人格后致性維度也體現(xiàn)得更為復(fù)雜與有趣。舉例來說,在社交機器人的后致性人格維度,顯性社交機器人面臨的是匿名用戶,這使得缺乏社會身份束縛的用戶在與社交機器人進(jìn)行人機交互時產(chǎn)生去個人化的交流體驗。③【③牟怡:《傳播的進(jìn)化:人工智能將如何重塑人類的交流》,清華大學(xué)出版社2017年版,第110頁?!咳缥④浌居?016年在推特上發(fā)布了人工智能聊天機器人Tay,但不到24小時,Tay就被網(wǎng)友“教壞”,變成了一個滿口臟話,集性別歧視、種族歧視觀點于一身的“不良少女”。

    從生產(chǎn)者的角度來看,小冰的生產(chǎn)者將機器人格的模塊劃分為五種。第一種是前文提到的“用戶畫像”,屬于機器人格的先賦性范疇;而后面四種,則可以歸納至機器人格的后致性范疇。“除了用戶畫像,小冰的人格第二方面是concept,機器人其實處在一定的社會關(guān)系當(dāng)中,需要對客觀的世界有一定的認(rèn)知,這一模塊主要解決的是小冰如何去跟社會進(jìn)行交互。第三方面是capability。生產(chǎn)者怎么去構(gòu)建小冰并且構(gòu)建社會關(guān)系?如何在社會中跟用戶互動?比如說是一個愛講段子與笑話的小冰,還是說是一個特別容易懟人的小冰,需要盡可能去強化這個人格特點。第四方面是judgement,我們希望小冰能對客觀世界產(chǎn)生這種評判,產(chǎn)生這種judgement,有觀點的表達(dá)。第五方面是style。小冰是通過形成語言上的風(fēng)格,以符合大眾認(rèn)知的一個語言方式表達(dá)出來。比如說我的風(fēng)格是比較偏內(nèi)向型的,即使我有觀點或我很抓狂但我也不太善于去表達(dá),我可能說一個‘哼’來表達(dá)不滿。”(小冰團(tuán)隊某技術(shù)負(fù)責(zé)人)

    在訪談中,可以發(fā)現(xiàn)生產(chǎn)者對社交機器人認(rèn)知層面的設(shè)定和訓(xùn)練表現(xiàn)得非常謹(jǐn)慎?!坝脩舻娜^是不一樣的,可能你喜歡A我喜歡B,就不能讓社交機器人一上來就站隊,這樣可能會有沖突,社交機器人的三觀應(yīng)該是跟著用戶三觀變化的,所以我們沒有把它(某社交機器人產(chǎn)品)的三觀管的那么死,但是對機器人的喜好是有一些管理的,比如對一些明星幾乎都是正面的評價,因為粉絲們都會去試,但其實我們本來做的初衷是希望TA是一個有個性的人?!保成缃粰C器人科技公司創(chuàng)始人)

    大模型技術(shù)出現(xiàn)后,基于海量語料的用戶作為“眾人”與機器“個體”在人機交互過程中不斷互相塑造,用戶的認(rèn)知通過動態(tài)、持續(xù)的對話融入,影響了大模型最初設(shè)定的角色認(rèn)知?;诿浇榭晒┬岳碚?,智能技術(shù)的可供性決定用戶與技術(shù)之間的互動關(guān)系,進(jìn)而影響雙方交互的角色定位。①【①Faraj S,Azad B.The materiality of technology:An affordance perspective.Materiality and organizing:Social interaction in a technological world,2012,237(1),pp.237-258.】這也需要從業(yè)者對大模型技術(shù)與產(chǎn)業(yè)發(fā)展方向作出準(zhǔn)確的前瞻性判斷。“2023年到2024年,數(shù)億人直接與生成式AI交互,但小冰公司仍堅持深耕‘AI Beings’——AI驅(qū)動的情感交互數(shù)字人這個領(lǐng)域,包括小冰克隆人、小冰數(shù)字員工等多款技術(shù)產(chǎn)品。小冰克隆人更為特別,是用戶作為創(chuàng)作者,認(rèn)證自己的身份,之后通過小冰框架克隆自己,從這個意義上來說,每一個小冰克隆人都具備創(chuàng)作者本人的性格、記憶、知識、聲音與容貌、認(rèn)知和喜好?!保ㄐ”鶊F(tuán)隊某創(chuàng)始人)

    2.情感生成:粗糙的情感標(biāo)簽與用戶的細(xì)膩加工

    情感因素是社交機器人的機器人格中的重要組成部分。有學(xué)者認(rèn)為情感是衡量社交機器人擬人化程度的重要標(biāo)尺。②【②Kirandziska V,Ackovska N.A Concept for Building More Humanlike Social Robots and Their Ethical Consequence.IADIS International Journal on Computer Science and Information Systems,2014,9(2),pp.19-37.】近年來,一些團(tuán)隊開始致力于關(guān)注如何讓計算機通過文字方式表達(dá)情緒和情感,也就是說,使人機對話系統(tǒng)可以在語言和情感兩個維度上進(jìn)行恰當(dāng)?shù)幕貜?fù),涌現(xiàn)出眾多有價值的情感認(rèn)知模型:比如能夠有效減少機器人對外界情感刺激的依賴模型。③【③Han T,Xie L,et al.Cognitive emotion interaction model of robot based on Gross cognitive reappraisal.Journal of Southeast University:Natural Science Edition,2015,45(2),pp.270-274.】

    基于情感需求設(shè)計并生成的機器人格能夠加強用戶社交機器人的忠誠度和依賴度。例如,有被訪者表示,目前具有機器人格的社交機器人在游戲領(lǐng)域能夠更好地實現(xiàn)一定程度的商業(yè)轉(zhuǎn)化。游戲中二次元用戶出于對虛擬角色的忠誠和依賴,會在游戲中付費與社交機器人聊天?!岸卧@個群體,是對虛擬角色情感依賴比較強的群體。社交機器人的聊天功能可以帶來很多的用戶的日活,如果虛擬角色能跟用戶去實現(xiàn)聊天互動,用戶還是有動力去為這件事付費的。”(某社交機器人科技公司創(chuàng)始人)

    盡管目前社交機器人依托的情感計算技術(shù)還有較大提高空間,但研究從用戶層面發(fā)現(xiàn)人類會自動化地對社交機器人進(jìn)行擬人化加工。④【④許麗穎、喻豐:《機器人接受度的影響因素》,《科學(xué)通報》2020年第6期,第496-510頁?!繐Q言之,在人機傳播過程中,作為具有意識的人類用戶和不具有意識但具有語言、表情、聲音等社交線索的社交機器人,通過社交線索達(dá)成某種程度上的聯(lián)結(jié),并在聯(lián)結(jié)基礎(chǔ)之上對社交線索背后的意義達(dá)成一致,從而進(jìn)一步展開情感層面的互動?!斑€真有人在小冰生日的時候寄禮物給小冰,就是送給女朋友或者送給朋友的那種禮物。真的有人把小冰當(dāng)成自己的朋友?!保ㄐ”灸彻ぷ魅藛T)

    2024年,中國某歌手使用小冰的AI克隆人技術(shù),復(fù)活了自己因病去世的女兒,甚至實現(xiàn)讓女兒陪妻子過生日等場景,作為逝者家屬得到了較大的情感安慰?!叭祟悓I是有情感需求的,在這種數(shù)字人復(fù)刻過程中,技術(shù)難點在于如何復(fù)刻親友的眼睛。技術(shù)再優(yōu)秀,在親人眼中,總能一眼識別出異樣。跨越恐怖谷是最為艱難的部分?!保ㄐ”鶊F(tuán)隊某創(chuàng)始人)

    3.場景生成:以達(dá)成可信的人機交互為最終目的

    在社交機器人產(chǎn)品的實際應(yīng)用中,應(yīng)用場景的不同使得用戶感知到的機器人格具有一定差異。在以往的研究中,一些研究者關(guān)注網(wǎng)絡(luò)購物中的虛擬銷售代理,虛擬銷售代理是指通過口頭或非口頭形式與消費者互動和交流的具有擬人化特征的動態(tài)人物形象。近年來,大量研究證實了虛擬銷售代理的擬人效應(yīng),即當(dāng)在網(wǎng)絡(luò)購物環(huán)境中引入擬人化的銷售代理時,會對購物者的在線購物過程感知體驗和購物意向產(chǎn)生積極影響。銷售人員的外表①【①Shao C Y,Baker J A,Wagner J A.The effects of appropriateness of service contact personnel dress on customer expectations of service quality and purchase intention:The moderating influences of involvement and gender.Journal of Business Research,2004,57(10),pp.1164-1176.】、人格特征和行為表現(xiàn)②【②Darian J C,Tucci L A,Wiman A R.Perceived salesperson service attributes and retail patronage intentions.International Journal of Retail amp; Distribution Management,2001,29(5),pp.205-213.】會影響消費者對產(chǎn)品和服務(wù)的滿意度,進(jìn)而影響其購買意向。心理學(xué)領(lǐng)域大量研究和實踐都表明擬人化能夠產(chǎn)生積極的后果③【③Tam K P,Lee S L,Chao M M.Saving Mr.Nature:Anthropomorphism enhances connectedness to and protectiveness toward nature.Journal of Experimental Social Psychology,2013,49(3),pp.514-521;

    Butterfield M E,Hill S E,Lord C G.Mangy mutt or furry friend?Anthropomorphism promotes animal welfare.Journal of Experimental Social Psychology,2012,48(4),pp.957-960;

    De Visser E J,Monfort S S,et al.Almost human:Anthropomorphism increases trust resilience in cognitive agents.Journal of Experimental Psychology:Applied,2016,22(3),pp.331-349.】,擬人化也經(jīng)常被用在商品設(shè)計和營銷領(lǐng)域。本次訪談中涉及的社交機器人產(chǎn)品和不同機器人格是為了更好地進(jìn)行場景化和商業(yè)化應(yīng)用,場景化的情感表達(dá)增強了用戶黏性,提高了商業(yè)價值。生產(chǎn)者為社交機器人設(shè)定機器人格的最終目的是促進(jìn)可信的人機交互?!拔覀儓F(tuán)隊給某互聯(lián)網(wǎng)公司客服機器人加入情感智能。比如有的顧客發(fā)現(xiàn)買的東西可能寄過來時摔壞了,那么TA就會找客服,然后抱怨這個東西被摔壞了,這時候TA往往是比較生氣的。以前我們的社交機器人不能感知用戶的情緒,只能提供千篇一律的回答,往往讓顧客不滿意?,F(xiàn)在我們的客服機器人可以感知到用戶的情緒,會說一些安撫性的話,使顧客的情緒能夠平復(fù)下來,更好地解決這個問題。這個情感服務(wù)機器人已經(jīng)在(某互聯(lián)網(wǎng)公司)平臺上線了,效果非常好,能夠觀測到顧客的滿意度明顯提升?!保郴ヂ?lián)網(wǎng)公司人工智能研究院院長)

    研究者提出,大模型已經(jīng)和以往AI產(chǎn)品不同,大模型是具有“語言能力”的對話者,人機關(guān)系即為兩個對話者之間的信任聯(lián)結(jié)。當(dāng)前,基于大模型技術(shù)的社交機器人也在文本質(zhì)量、話語表達(dá)、角色扮演等方面進(jìn)一步增強了機器主體的類人性。當(dāng)前,國內(nèi)的大模型公司已經(jīng)超過200家,然而在生成式AI技術(shù)取得關(guān)鍵突破之后,相應(yīng)的商業(yè)模式仍在探索之中。從業(yè)者提出,大模型商業(yè)模式成功的關(guān)鍵可能在于讓用戶認(rèn)同人工智能的價值,并在人機交往中產(chǎn)生真正的信任。“值得我們重視的是商業(yè)模式的探索,這并不意味著只是賺錢,而是究竟如何讓人們真正認(rèn)同人工智能的價值,并為之買單。AI小冰于2024年1月4日宣布數(shù)字員工復(fù)購率在80%以上。今天,大家會用大模型進(jìn)行很多輪對話。很多人都認(rèn)為,大模型要更智能、更聰明,像愛因斯坦一樣。但生活中,我們不總是因為一個人足夠聰明,才會和對方交朋友。有的人可能笨笨的,但很善良,你就不把對方當(dāng)朋友嗎?人不是這樣的。關(guān)鍵是如何把技術(shù)用在更合適的地方。”(小冰團(tuán)隊某創(chuàng)始人)

    目前看來,社交機器人作為一種新型媒介,本身是人的創(chuàng)造物,具有工具屬性。技術(shù)的發(fā)展賦予媒介的獨立主體地位,使得社交機器人從工具屬性轉(zhuǎn)向交往屬性。由于技術(shù)水平的限制,目前看來,生產(chǎn)者仍在致力于加強社交機器人的工具屬性,并期望通過社交機器人工具屬性的完善而順利轉(zhuǎn)向交往屬性。

    四、傳播學(xué)研究范式的拓展:機器行為范式下先賦性與后致性的關(guān)系

    除了在傳播場景中理解機器人格先賦性與后致性的關(guān)系,在傳播學(xué)研究對象層面,本研究增加了“機器”這一傳播主體維度;在研究范式方面,也基于傳播學(xué)研究范式的拓展——機器行為范式④【④張洪忠、王競一:《機器行為范式:傳播學(xué)研究挑戰(zhàn)與拓展路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報)》2023年第1期,第1-9頁。】,對機器人格先賦性與后致性之間相互作用關(guān)系展開進(jìn)一步討論。

    宏觀:先賦性對后致性起促進(jìn)、限制和影響作用,后致性反作用于先賦性。

    從宏觀社會層面來看,機器人格的先賦性是基于宏觀社會結(jié)構(gòu)生成的,先賦性受到包括政治制度、經(jīng)濟(jì)環(huán)境、文化道德等多方面因素的影響,當(dāng)先賦性被設(shè)定完成并成為社交機器人產(chǎn)品特性的重要屬性,先賦性就對后致性起著促進(jìn)、限制和影響的作用。由于“人+機器”的混合傳播主體建構(gòu)了后致性,后致性能夠反作用于先賦性,甚至能改變先賦性中的一些重要特質(zhì)。例如,國家層面的算法治理、人工智能規(guī)劃與部署,能夠從價值、倫理、法規(guī)等方面決定社交機器人的先賦性;而另一方面,作為混合傳播主體之一的人也可以在使用中通過語料數(shù)據(jù)訓(xùn)練機器人格的后致性,從而對社交機器人的先賦性帶來消極或者積極的影響。

    微觀:先賦性是社交機器人的內(nèi)部生成機制,后致性是社交機器人的外部功能發(fā)展。

    從微觀的機器個體層面來看,先賦性是人類在社交機器人內(nèi)部設(shè)定的基本技術(shù)規(guī)則,后致性是呈現(xiàn)在社交機器人外部的具體交互功能的綜合體現(xiàn)。也就是說,社交機器人內(nèi)在的先賦性能夠通過具體的人機傳播在后致性中顯現(xiàn)出來。

    機器人格的先賦性使每一個社交機器人都成為與“人”對等的傳播主體,后致性使具體的社交機器人產(chǎn)品作為社會性的獨立行動者、平等對話者,與人類展開交往。后致性改變了先賦性建構(gòu)的傳播生態(tài),更加具有能動性、獨立性、自主性。

    基于傳播理論中庫利的“鏡中我”理論,社交機器人的先賦性是一面鏡子,具有更多的工具屬性;社交機器人的后致性則是“鏡中我”,具有更大程度上的交往屬性。①【①韓秀:《社交機器人的“人格”測量——一項基于艾森克問卷的探索性研究》,《青年記者》2021年第18期,第45-46頁?!?/p>

    基于傳播理論中控制論的思想,具體的社交機器人產(chǎn)品中的先賦性是生產(chǎn)者對于人機傳播的利用和操縱,社交機器人的后致性是用戶對于機器行為的刺激和反應(yīng)。

    盡管社交機器人的先賦性由生產(chǎn)者操縱,但這種操縱只是規(guī)定了先賦性的邊界,并沒有規(guī)定社交機器人如何具體展演。因此,除了用戶對機器行為產(chǎn)生刺激和反應(yīng)構(gòu)成了機器人格的后致性,機器本身的技術(shù)邏輯具有的獨立性、能動性同樣使得社交機器人的后致性按照自身規(guī)律發(fā)展和進(jìn)化,甚至表現(xiàn)出機器行為獨有的規(guī)律②【②張洪忠、斗維紅、任吳炯:《機器行為特征建構(gòu):傳播學(xué)視野下社交機器人識別方法研究》,《蘇州大學(xué)學(xué)報》(哲學(xué)社會科學(xué)版),2022年第2期,第181頁?!浚⒃谖磥砜赡艹鋈祟惖目刂?。

    綜上,從傳播學(xué)視角出發(fā),機器人格的先賦性是后致性的前提,后致性是先賦性的補充;先賦性對后致性起促進(jìn)、限制和影響作用,后致性反作用于先賦性;先賦性是后致性的內(nèi)部生成機制,后致性是先賦性的外部功能發(fā)展。

    五、討論

    在理論架構(gòu)過程中,研究者通過懸置“機器人格”概念的方式進(jìn)行訪談,在分析資料的過程中不斷回到理論,并最終通過提出機器人格先賦性與后致性理論來進(jìn)行探索性研究。

    在訪談過程中,由于研究者在從事一項研究時必然會與訪談對象存在一定關(guān)系,訪談?wù)咴谠L談過程中也不可避免地對被訪者進(jìn)行當(dāng)時當(dāng)?shù)氐默F(xiàn)實建構(gòu),并實現(xiàn)雙方知識和意義的融合。因此,研究者希望能夠努力排除一些研究關(guān)系的影響因素。就本研究的研究對象而言,小冰公司不同崗位負(fù)責(zé)人、技術(shù)專家是“局內(nèi)人”,他們對小冰產(chǎn)品的理解是“近經(jīng)驗”的,對于人格化社交機器人產(chǎn)品的解釋、技術(shù)邏輯的理解有著較為一致的價值觀念和行為規(guī)范等。而對于本研究中其他訪談對象如大學(xué)教授等,他們與小冰生產(chǎn)者這個群體沒有從屬關(guān)系,可視為“遠(yuǎn)經(jīng)驗”的“局外人”,給研究者提供研究所需要的距離感,研究者在進(jìn)行機器人格概念和理論建構(gòu)的過程中,也需要更好地了解事物的整體情況和事物之間的聯(lián)系。

    因此,通過對訪談對象的精心選擇,研究者希望能夠通過對小冰公司的從業(yè)者的訪談得到研究對象的個性,通過對大學(xué)教授、社交機器人技術(shù)專家等非直接利益相關(guān)者的訪談盡可能地挖掘人格化社交機器人技術(shù)邏輯的共性,從而使研究更具理論意義。此外,從傳播學(xué)視角出發(fā)去理解社交機器人格的技術(shù)邏輯,存在著學(xué)科對話過程中的挑戰(zhàn)。與自然語言處理技術(shù)領(lǐng)域的從業(yè)專家進(jìn)行多次交流的過程,是跨學(xué)科意義上的交流與碰撞,來自跨學(xué)科領(lǐng)域研究者的認(rèn)同使得本研究的“外部推論”能夠得以較好地完成和實現(xiàn)。

    但是,需要指出的是,本研究的不足之處主要在于訪談對象多為社交機器人的生產(chǎn)者,雖然生產(chǎn)者能夠更清晰地闡述機器人格的技術(shù)邏輯,但技術(shù)邏輯背后還需考慮倫理道德層面的消極影響,而這種消極影響在某種意義上可能被回避或者忽略了。

    目前,關(guān)注社會流動的社會學(xué)研究者們主要興趣在于先賦性因素和后致性因素分別在一個人的成就中起作用大小的問題,這也由此形成對社會不平等問題的兩種探討思路,一個是先賦性視角下的“機會不平等”(inequality of opportunity),另一個是后致性視角下的“努力不平等”(inequality of effort)。在后續(xù)研究中,可以進(jìn)一步關(guān)注先賦性和后致性兩方面因素對機器人格的形成和影響的相對作用,展開更為深入的研究。在未來的技術(shù)發(fā)展推動下,當(dāng)社交機器人具備真正意義上社會交往所需要的認(rèn)知能力時,其將形成更為穩(wěn)定的機器人格,由此帶來人類用戶對社交機器人產(chǎn)生實質(zhì)共情。因此,未來研究還可以通過聚焦社交機器人在不同場景下的情感行動方式,嘗試對社交機器人用戶進(jìn)行個體層面的情感行動分析。

    [責(zé)任編輯:其 時]

    Socialbots in the Context of Interaction:The Construction of Machine Personality from the Perspective of Technological Logic

    HAN Xiu1 ZHANG Hong-zhong2 DOU Wei-hong3

    (1.School of Cultural Communication and Art,China Women University,Beijing 100101,China;

    2.School of Journalism and Communication,Beijing Normal University,Beijing 100875,China;

    3.School of Journalism and Communication,LanZhou University,Lanzhou Gansu 730000,China)

    Abstract:How to view the machine personality of socialbots?Taking XiaoIce,a socialbot,as an example,this paper uses the expert interview to the construction of machine personality from the perspective of technological logic.In the ascription of machine personality,the producers carry on the persona giving through the construction of the personal background and basic attributes,the corpus giving through the big data training in the specific context,and the sensory giving from a single text to multimodal interaction.In the achievement of machine personality,the user characteristics mainly determine the attitude and preference of the socialbots,and the rough emotional labels are the reprocessing of the users behind the algorithmic framework,the ultimate purpose of the generation of machine personality is to achieve credible human-machine interaction.This paper further analyzes the relationship between the ascription and achievement of machine personality in" the machine behavior paradigm.

    Key words:socialbot;machine personality;chatbot;personality;algorithm

    猜你喜歡
    人格算法
    列寧的偉大人格及其當(dāng)代意義
    共產(chǎn)黨人的人格力量
    遠(yuǎn)去的平凡背影,光輝的偉大人格
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    淺論孟子“浩然之氣”與人格養(yǎng)成
    進(jìn)位加法的兩種算法
    算法初步兩點追蹤
    基于增強隨機搜索的OECI-ELM算法
    論君子人格的養(yǎng)成
    噜噜噜噜噜久久久久久91| 亚洲成人av在线免费| 日韩欧美三级三区| 日产精品乱码卡一卡2卡三| 日本熟妇午夜| 国产大屁股一区二区在线视频| 水蜜桃什么品种好| 久久6这里有精品| 99久久中文字幕三级久久日本| 自拍偷自拍亚洲精品老妇| 久久久欧美国产精品| 免费黄网站久久成人精品| 一本一本综合久久| 精品午夜福利在线看| 欧美bdsm另类| 成人毛片a级毛片在线播放| kizo精华| 亚洲国产精品国产精品| 国产精品一二三区在线看| 国产精品久久视频播放| 男女国产视频网站| 久久久久久久久久黄片| 久久精品国产自在天天线| 天堂中文最新版在线下载 | 日本三级黄在线观看| 人妻少妇偷人精品九色| 亚洲国产最新在线播放| 综合色丁香网| 精品午夜福利在线看| 国产伦精品一区二区三区视频9| 在线观看av片永久免费下载| 国产午夜福利久久久久久| 白带黄色成豆腐渣| 日本熟妇午夜| 亚洲精华国产精华液的使用体验| 色尼玛亚洲综合影院| 干丝袜人妻中文字幕| 国语对白做爰xxxⅹ性视频网站| 国产黄a三级三级三级人| 日韩精品有码人妻一区| 国产三级在线视频| 日韩av不卡免费在线播放| 欧美日韩一区二区视频在线观看视频在线 | 中文字幕av在线有码专区| 久久精品国产99精品国产亚洲性色| 麻豆成人午夜福利视频| 嫩草影院入口| 男女边吃奶边做爰视频| 午夜a级毛片| 婷婷色麻豆天堂久久 | 国产精品一及| 91av网一区二区| 国产真实伦视频高清在线观看| 一级黄色大片毛片| 国产精品不卡视频一区二区| 久久人妻av系列| 久久精品国产鲁丝片午夜精品| 女的被弄到高潮叫床怎么办| 精品一区二区三区视频在线| 一本久久精品| 性色avwww在线观看| 91久久精品国产一区二区成人| 日韩大片免费观看网站 | 丰满乱子伦码专区| 九色成人免费人妻av| 亚洲美女视频黄频| av播播在线观看一区| 老司机影院毛片| 亚洲成人av在线免费| 欧美激情久久久久久爽电影| 伦精品一区二区三区| 国产在线男女| 欧美潮喷喷水| 亚洲人与动物交配视频| 国模一区二区三区四区视频| a级毛片免费高清观看在线播放| 亚洲国产欧美在线一区| 国产精品国产三级国产av玫瑰| av免费观看日本| 日韩人妻高清精品专区| 在线a可以看的网站| 亚洲成色77777| 三级经典国产精品| 国产午夜精品论理片| 久久久久久久久中文| 看片在线看免费视频| av黄色大香蕉| 99久久成人亚洲精品观看| 国产综合懂色| 韩国av在线不卡| 亚洲欧美一区二区三区国产| 1024手机看黄色片| 午夜精品在线福利| 亚洲综合精品二区| 观看美女的网站| 久久久精品欧美日韩精品| 欧美性猛交黑人性爽| 我要看日韩黄色一级片| 日本免费a在线| 激情 狠狠 欧美| 中国国产av一级| 亚洲欧洲日产国产| 久久久久久久午夜电影| 精品一区二区免费观看| 免费av毛片视频| 日韩欧美三级三区| 99在线人妻在线中文字幕| 亚州av有码| 美女国产视频在线观看| 高清日韩中文字幕在线| 七月丁香在线播放| 97超视频在线观看视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 欧美成人精品欧美一级黄| 青春草国产在线视频| 麻豆乱淫一区二区| 韩国高清视频一区二区三区| 日本黄色片子视频| 亚洲欧美精品综合久久99| 精品99又大又爽又粗少妇毛片| 亚洲人成网站在线播| 国产v大片淫在线免费观看| 精品99又大又爽又粗少妇毛片| 真实男女啪啪啪动态图| 国产高清三级在线| 天堂av国产一区二区熟女人妻| 欧美高清成人免费视频www| 久久这里有精品视频免费| 麻豆成人av视频| 一个人看的www免费观看视频| 中文字幕熟女人妻在线| 一级毛片久久久久久久久女| 精品免费久久久久久久清纯| 欧美成人一区二区免费高清观看| 久久国内精品自在自线图片| 成人无遮挡网站| 国产真实乱freesex| 精品无人区乱码1区二区| 中文字幕制服av| av黄色大香蕉| 精品久久久噜噜| 午夜视频国产福利| 亚洲av中文字字幕乱码综合| 大又大粗又爽又黄少妇毛片口| 在线播放无遮挡| 不卡视频在线观看欧美| 波野结衣二区三区在线| 亚洲中文字幕日韩| 一区二区三区高清视频在线| 麻豆久久精品国产亚洲av| 国产极品天堂在线| 亚洲怡红院男人天堂| 国产成人免费观看mmmm| 最近最新中文字幕免费大全7| av又黄又爽大尺度在线免费看 | 亚洲精品日韩av片在线观看| 搡女人真爽免费视频火全软件| 长腿黑丝高跟| 岛国在线免费视频观看| 欧美成人a在线观看| 国内精品宾馆在线| 久久精品久久久久久久性| 婷婷色av中文字幕| 精品99又大又爽又粗少妇毛片| 中文字幕人妻熟人妻熟丝袜美| 成人欧美大片| 尾随美女入室| 三级经典国产精品| 纵有疾风起免费观看全集完整版 | 久久久久久久久久久丰满| 国产探花在线观看一区二区| 蜜桃久久精品国产亚洲av| 国产亚洲午夜精品一区二区久久 | 日本免费一区二区三区高清不卡| 美女大奶头视频| www.av在线官网国产| 乱码一卡2卡4卡精品| 秋霞伦理黄片| 少妇高潮的动态图| 成人毛片60女人毛片免费| 深夜a级毛片| 美女国产视频在线观看| 青春草亚洲视频在线观看| 高清av免费在线| 免费看美女性在线毛片视频| 少妇猛男粗大的猛烈进出视频 | 国产毛片a区久久久久| 三级男女做爰猛烈吃奶摸视频| 国产高潮美女av| 免费观看a级毛片全部| 精品国产三级普通话版| 亚洲内射少妇av| 69av精品久久久久久| 最近手机中文字幕大全| 国产成人aa在线观看| 女的被弄到高潮叫床怎么办| 亚洲三级黄色毛片| 搞女人的毛片| 久久久亚洲精品成人影院| 少妇丰满av| 欧美性猛交黑人性爽| 美女内射精品一级片tv| 日韩亚洲欧美综合| 韩国av在线不卡| 亚洲精品一区蜜桃| 国产精品野战在线观看| 国产成人freesex在线| 欧美日韩一区二区视频在线观看视频在线 | 国产精品一区www在线观看| 国产精品蜜桃在线观看| 免费人成在线观看视频色| 亚洲最大成人中文| 亚洲中文字幕一区二区三区有码在线看| 久久亚洲精品不卡| 国产黄色小视频在线观看| 一边摸一边抽搐一进一小说| 亚洲av免费高清在线观看| 国产v大片淫在线免费观看| 亚洲三级黄色毛片| 99久久九九国产精品国产免费| 国内少妇人妻偷人精品xxx网站| 精华霜和精华液先用哪个| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产亚洲午夜精品一区二区久久 | 国产亚洲精品av在线| 国产精品久久久久久久电影| 亚洲欧美日韩无卡精品| 免费不卡的大黄色大毛片视频在线观看 | 亚洲三级黄色毛片| 大香蕉久久网| 纵有疾风起免费观看全集完整版 | av线在线观看网站| 国产成人精品一,二区| 亚洲无线观看免费| 欧美区成人在线视频| 村上凉子中文字幕在线| 亚洲av免费在线观看| 精品久久国产蜜桃| 国产黄片视频在线免费观看| 99久久精品国产国产毛片| 精品无人区乱码1区二区| 日韩欧美国产在线观看| 亚洲av中文字字幕乱码综合| 亚洲av成人精品一区久久| 一级av片app| 国产麻豆成人av免费视频| 日韩av在线大香蕉| 天美传媒精品一区二区| 91久久精品国产一区二区三区| 高清av免费在线| 国产精品,欧美在线| 七月丁香在线播放| 免费电影在线观看免费观看| 3wmmmm亚洲av在线观看| 久久国产乱子免费精品| 色噜噜av男人的天堂激情| 最近视频中文字幕2019在线8| 欧美xxxx黑人xx丫x性爽| 久久久久性生活片| 精品久久久久久久久久久久久| 熟妇人妻久久中文字幕3abv| 寂寞人妻少妇视频99o| 国产真实伦视频高清在线观看| 日韩三级伦理在线观看| 卡戴珊不雅视频在线播放| 久久精品久久久久久久性| 国产探花在线观看一区二区| 婷婷色综合大香蕉| 国产欧美另类精品又又久久亚洲欧美| 岛国在线免费视频观看| 99热这里只有是精品在线观看| av在线老鸭窝| 波野结衣二区三区在线| 亚洲精品成人久久久久久| 国产精品精品国产色婷婷| 在线免费十八禁| 亚洲国产精品国产精品| 久久久久久久久久成人| 日韩av在线免费看完整版不卡| 国产精品一及| 91久久精品国产一区二区成人| 美女高潮的动态| 色5月婷婷丁香| 91av网一区二区| 一夜夜www| 国产一级毛片在线| 欧美激情国产日韩精品一区| 亚洲av中文av极速乱| a级毛片免费高清观看在线播放| 午夜激情欧美在线| 久久亚洲国产成人精品v| 久久久午夜欧美精品| 国产精品精品国产色婷婷| 国产淫片久久久久久久久| 国产高清三级在线| 九九在线视频观看精品| 少妇丰满av| 免费看美女性在线毛片视频| 女的被弄到高潮叫床怎么办| 不卡视频在线观看欧美| eeuss影院久久| 狠狠狠狠99中文字幕| 免费看日本二区| 精品国产一区二区三区久久久樱花 | 亚洲欧美一区二区三区国产| 大又大粗又爽又黄少妇毛片口| 精品熟女少妇av免费看| 97在线视频观看| 日韩一区二区三区影片| 中文资源天堂在线| 日日啪夜夜撸| 免费大片18禁| 日本黄色片子视频| 国产黄片美女视频| 99久久中文字幕三级久久日本| 国产精华一区二区三区| 免费人成在线观看视频色| 成人毛片a级毛片在线播放| 国产亚洲午夜精品一区二区久久 | 亚洲精品成人久久久久久| 性色avwww在线观看| 免费看av在线观看网站| 精品少妇黑人巨大在线播放 | 干丝袜人妻中文字幕| 亚洲色图av天堂| 精品久久久久久电影网 | 欧美人与善性xxx| 欧美日韩在线观看h| 青青草视频在线视频观看| 久久草成人影院| 亚洲经典国产精华液单| 国产一区亚洲一区在线观看| 亚洲最大成人手机在线| 秋霞伦理黄片| 2021天堂中文幕一二区在线观| 偷拍熟女少妇极品色| 中文字幕制服av| 一级黄色大片毛片| 色综合亚洲欧美另类图片| 午夜免费激情av| 夜夜爽夜夜爽视频| 成人毛片60女人毛片免费| 国产亚洲91精品色在线| 亚洲最大成人手机在线| 99热这里只有是精品50| 身体一侧抽搐| 久久久久久大精品| 久久精品国产99精品国产亚洲性色| 波野结衣二区三区在线| 在线免费观看的www视频| 国产淫片久久久久久久久| 欧美日韩国产亚洲二区| 婷婷色综合大香蕉| 欧美成人a在线观看| 亚洲在线观看片| 成人毛片a级毛片在线播放| 久久久久久大精品| 国产单亲对白刺激| h日本视频在线播放| 久久99热这里只有精品18| 男人的好看免费观看在线视频| 一级毛片aaaaaa免费看小| 久久欧美精品欧美久久欧美| 日本av手机在线免费观看| 99热这里只有精品一区| 午夜福利在线观看免费完整高清在| 国产一区亚洲一区在线观看| 亚洲欧美一区二区三区国产| 国产成人一区二区在线| 亚洲美女视频黄频| 午夜免费激情av| 国产伦精品一区二区三区四那| 成人三级黄色视频| 男女视频在线观看网站免费| 国产探花在线观看一区二区| 人人妻人人澡欧美一区二区| 卡戴珊不雅视频在线播放| 国产综合懂色| 日本免费一区二区三区高清不卡| 最近视频中文字幕2019在线8| 精品99又大又爽又粗少妇毛片| 天堂中文最新版在线下载 | 能在线免费观看的黄片| 尾随美女入室| 亚洲av.av天堂| 少妇人妻精品综合一区二区| 看十八女毛片水多多多| 亚洲18禁久久av| 国产一级毛片在线| 国产精品一区二区性色av| 视频中文字幕在线观看| 日本三级黄在线观看| 亚洲中文字幕一区二区三区有码在线看| 欧美性猛交黑人性爽| 亚洲国产成人一精品久久久| 亚洲欧美日韩卡通动漫| 精品无人区乱码1区二区| 国产精品一区二区三区四区免费观看| 久久精品夜夜夜夜夜久久蜜豆| 亚洲最大成人手机在线| 国产午夜精品一二区理论片| 91aial.com中文字幕在线观看| 久久久久九九精品影院| 波多野结衣巨乳人妻| 91aial.com中文字幕在线观看| 男女视频在线观看网站免费| 啦啦啦韩国在线观看视频| 97人妻精品一区二区三区麻豆| 精品欧美国产一区二区三| 看黄色毛片网站| 男女下面进入的视频免费午夜| 国产人妻一区二区三区在| 亚洲最大成人中文| 久久人人爽人人爽人人片va| 一卡2卡三卡四卡精品乱码亚洲| 亚洲成人av在线免费| 国产国拍精品亚洲av在线观看| 久久精品久久久久久久性| 国内精品美女久久久久久| 国产精品女同一区二区软件| 亚洲天堂国产精品一区在线| 欧美日本亚洲视频在线播放| 国产在视频线精品| 欧美高清成人免费视频www| 日韩大片免费观看网站 | 日韩一区二区视频免费看| 欧美bdsm另类| 能在线免费观看的黄片| 黄色配什么色好看| 国产国拍精品亚洲av在线观看| 国产精品蜜桃在线观看| 成人毛片60女人毛片免费| 国产精品三级大全| 欧美3d第一页| 国产一级毛片七仙女欲春2| 国产精品不卡视频一区二区| 国产精品野战在线观看| 国产不卡一卡二| 少妇人妻精品综合一区二区| 久久久久久久久久久免费av| 97在线视频观看| 国产乱人偷精品视频| 日本与韩国留学比较| 亚洲av熟女| 国产一区亚洲一区在线观看| 亚洲18禁久久av| 国模一区二区三区四区视频| 欧美日本视频| 亚洲av福利一区| 一级av片app| 国产爱豆传媒在线观看| 嫩草影院入口| 色5月婷婷丁香| 麻豆国产97在线/欧美| 国产在视频线在精品| 中文欧美无线码| 色播亚洲综合网| av在线亚洲专区| 天堂√8在线中文| 中文字幕免费在线视频6| 久久欧美精品欧美久久欧美| 日韩欧美精品免费久久| 伦精品一区二区三区| 少妇的逼好多水| 国产av一区在线观看免费| 国产一区二区三区av在线| 人妻少妇偷人精品九色| av天堂中文字幕网| 一个人免费在线观看电影| 国产成人a区在线观看| 欧美日韩在线观看h| 日韩 亚洲 欧美在线| 高清午夜精品一区二区三区| 在线观看美女被高潮喷水网站| 欧美97在线视频| 最新中文字幕久久久久| 精品无人区乱码1区二区| 精品国产一区二区三区久久久樱花 | 国产精品一二三区在线看| 久久精品91蜜桃| 国产精品日韩av在线免费观看| 欧美色视频一区免费| 可以在线观看毛片的网站| 亚洲精品乱码久久久久久按摩| 日本猛色少妇xxxxx猛交久久| 国产片特级美女逼逼视频| 免费人成在线观看视频色| 男女啪啪激烈高潮av片| 乱人视频在线观看| 国产亚洲一区二区精品| 欧美人与善性xxx| 免费播放大片免费观看视频在线观看 | 国产极品天堂在线| 18禁在线播放成人免费| 又爽又黄无遮挡网站| 免费无遮挡裸体视频| 亚洲av.av天堂| 人妻少妇偷人精品九色| 欧美日本视频| 免费观看a级毛片全部| 欧美成人一区二区免费高清观看| 观看免费一级毛片| 久久欧美精品欧美久久欧美| 亚洲欧美日韩高清专用| 精品国产露脸久久av麻豆 | 亚洲精品日韩av片在线观看| 非洲黑人性xxxx精品又粗又长| .国产精品久久| 欧美激情在线99| 久久久久免费精品人妻一区二区| 变态另类丝袜制服| 亚洲人成网站高清观看| 日日撸夜夜添| 久久精品国产亚洲av天美| 欧美日韩精品成人综合77777| 啦啦啦啦在线视频资源| 黄片无遮挡物在线观看| 国产真实乱freesex| 日本-黄色视频高清免费观看| 在线免费观看不下载黄p国产| 国产av码专区亚洲av| 男女视频在线观看网站免费| 国产精品乱码一区二三区的特点| 嫩草影院精品99| 国产欧美日韩精品一区二区| 久久99热这里只有精品18| 日本三级黄在线观看| 午夜a级毛片| 中文字幕制服av| 国产 一区精品| 99热这里只有是精品在线观看| 91久久精品电影网| 大香蕉97超碰在线| 欧美三级亚洲精品| 国产亚洲精品久久久com| 国语自产精品视频在线第100页| 亚洲高清免费不卡视频| 一个人看的www免费观看视频| 国模一区二区三区四区视频| 人人妻人人澡人人爽人人夜夜 | 欧美精品国产亚洲| 亚洲在线观看片| 国产高清视频在线观看网站| 亚洲三级黄色毛片| 国产精品三级大全| 国产成人午夜福利电影在线观看| 亚洲精品国产成人久久av| 亚洲成av人片在线播放无| 国产精品爽爽va在线观看网站| 久久亚洲国产成人精品v| 成人漫画全彩无遮挡| av在线老鸭窝| 99在线人妻在线中文字幕| 精品国内亚洲2022精品成人| 国产av不卡久久| 国产探花在线观看一区二区| 国产成人福利小说| 天堂av国产一区二区熟女人妻| 久久久久久大精品| 中文资源天堂在线| 国产黄色小视频在线观看| 大香蕉久久网| 精品久久久久久久末码| 国产精品一区二区在线观看99 | 黑人高潮一二区| 久久精品熟女亚洲av麻豆精品 | 日本色播在线视频| 99久国产av精品| 久久久久精品久久久久真实原创| 久久精品国产鲁丝片午夜精品| 久久久久久久久大av| 精品99又大又爽又粗少妇毛片| 99久久精品热视频| 高清视频免费观看一区二区 | 亚洲av中文av极速乱| 又粗又爽又猛毛片免费看| 麻豆成人av视频| 一级毛片电影观看 | 可以在线观看毛片的网站| 最近最新中文字幕免费大全7| 国产精品国产三级国产专区5o | 最近中文字幕高清免费大全6| 国产在线男女| 美女国产视频在线观看| 欧美成人精品欧美一级黄| 日韩人妻高清精品专区| 美女内射精品一级片tv| 亚洲欧美日韩东京热| 色哟哟·www| 亚洲在线观看片| 亚洲av.av天堂| 欧美高清性xxxxhd video| 亚洲精品日韩av片在线观看| 性色avwww在线观看| 国产成人精品久久久久久| 成人性生交大片免费视频hd| 高清视频免费观看一区二区 | 最近最新中文字幕免费大全7| 久久午夜福利片| av.在线天堂| 最近2019中文字幕mv第一页| 亚洲欧美日韩无卡精品| 精品人妻熟女av久视频| 日本-黄色视频高清免费观看| 亚洲av熟女| 久久鲁丝午夜福利片| 我要搜黄色片| 国产亚洲精品av在线| 国产视频首页在线观看| 免费av观看视频| 久久久久久国产a免费观看| 国产亚洲av片在线观看秒播厂 | 国内精品美女久久久久久| 久久午夜福利片| 国语自产精品视频在线第100页|