• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于多頭自注意力和并行混合模型的文本情感分析

    2021-01-21 02:59:24李輝黃鈺杰
    關(guān)鍵詞:注意力卷積向量

    李輝,黃鈺杰

    (1.河南理工大學(xué) 物理與電子信息學(xué)院,河南 焦作 454000;2.河南理工大學(xué) 電氣工程與自動化學(xué)院,河南 焦作 454000)

    0 引 言

    近年來,隨著互聯(lián)網(wǎng)產(chǎn)業(yè)快速發(fā)展,出現(xiàn)了眾多新興媒體,它們通過互聯(lián)網(wǎng)可以獲得用戶評論、品牌、情感、政治和觀點(diǎn)等大量數(shù)據(jù)。情感分析是一種特殊的文本挖掘工作,是從給定的文本中提取人們的態(tài)度或情感。目前,文本情感分析[1]是自然語言處理(natural language processing,NLP)領(lǐng)域中的研究熱點(diǎn),它是針對非結(jié)構(gòu)化信息,挖掘其蘊(yùn)涵的深層次情感或傾向。

    目前,有很多使用基于機(jī)器學(xué)習(xí)的情感分析技術(shù)進(jìn)行文本分析,取得了不錯的效果[2-3],但是這些方法不能有效地表達(dá)復(fù)雜的函數(shù)計算,并且需要人工選擇數(shù)據(jù)特征,泛化能力較弱,而深度學(xué)習(xí)能夠從原始數(shù)據(jù)中自動學(xué)習(xí)重要的數(shù)據(jù)特征,并處理各種復(fù)雜任務(wù),在建模、解釋、表達(dá)能力以及優(yōu)化等方面優(yōu)勢明顯。將深度學(xué)習(xí)應(yīng)用于文本情感分析領(lǐng)域,極大地推進(jìn)了文本情感分析的研究與發(fā)展[4]。G.E.Hinton等[5]提出了深度學(xué)習(xí)的概念,即利用深度學(xué)習(xí)網(wǎng)絡(luò)構(gòu)建一個高質(zhì)量的語言模型處理自然語言問題。在現(xiàn)有的深度學(xué)習(xí)模型中最熱門的網(wǎng)絡(luò)模型是循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)模型[6]和卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)模型[7]。CNN是目前應(yīng)用最為廣泛的一種深度學(xué)習(xí)結(jié)構(gòu),具有局部感受野、權(quán)值共享和下采樣3個特點(diǎn),使其在捕捉文本局部特征信息上具有很大的優(yōu)勢。它處理的是序列化特征信息,RNN是通過一種鏈?zhǔn)缴窠?jīng)網(wǎng)絡(luò)對歷史信息進(jìn)行儲存和傳播,減少網(wǎng)絡(luò)的訓(xùn)練參數(shù),提升訓(xùn)練速度。N.Kalchbrenner等[8]提出一種DCNN網(wǎng)絡(luò)模型,使用一種動態(tài)池化的方法,能夠處理可變長度的輸入;王煜涵等[9]提出單一的CNN結(jié)構(gòu)模型,進(jìn)行文本情感分析,取得了不錯的效果;S.Kai等[10]則使用長短期記憶網(wǎng)絡(luò)(long and short term memory,LSTM)解決情感分析問題,并使分類效果明顯提升;I.Augenstein等[11]提出的雙向LSTM網(wǎng)絡(luò)模型,該模型能同時捕捉詞語的前后時序關(guān)系,獲得詞語間的前后關(guān)系;K.Cho等[12]提出門限循環(huán)單元(gated recurrent unit,GRU),GRU是LSTM的改進(jìn),將遺忘門和輸入門合并成一個更新門,使其結(jié)構(gòu)更加簡單,從而減小模型的訓(xùn)練時間;曹宇等[13]提出雙向門限循環(huán)神經(jīng)網(wǎng)(bi-directional gated recurrent unit,BiGRU)進(jìn)行中文文本情感分析,取得了不錯的效果。

    考慮到僅使用單一的神經(jīng)網(wǎng)絡(luò)使更深層次的特征提取不充分,于是S.Lai[14]提出了RCNN模型,首先利用雙向循環(huán)神經(jīng)網(wǎng)絡(luò)對序列化的特征進(jìn)行提取,再經(jīng)過卷積、池化等操作進(jìn)行文本情感分類;A.Hassan等[15]在CNN網(wǎng)絡(luò)后引入RNN,構(gòu)建了混合模型,證明采用多個神經(jīng)網(wǎng)絡(luò)模型結(jié)合的方式能更好地完成文本情感分析。由于在文本中,每個詞或者句子對整個文本的情感分類有著不同的影響,使用注意力機(jī)制能夠捕捉文本中最具代表性的特征,優(yōu)化模型結(jié)構(gòu);王麗亞等[16]提出RCNN并引入注意力機(jī)制,有效地提高了文本情感分類的效果。目前,基于注意力的方法已經(jīng)成功應(yīng)用于各種任務(wù)中,在機(jī)器翻譯領(lǐng)域?yàn)榱烁鼫?zhǔn)確地提取文本特征,A.Vaswani等[17]提出多頭自注意力(multi-head self-attention,MA)方法構(gòu)建了Transformer模型;LEI Z等[18]采用MA對CNN處理過的特征矩陣進(jìn)一步學(xué)習(xí)情感特定句子表示;關(guān)鵬飛等[19]運(yùn)用雙向LSTM捕捉詞語間的語義依賴關(guān)系,再利用自注意力進(jìn)一步學(xué)習(xí)重點(diǎn)詞的特征信息。

    本文模型結(jié)構(gòu)在文獻(xiàn)[14]的基礎(chǔ)上進(jìn)行改進(jìn),由于這種傳統(tǒng)的RNN-CNN模型沒有充分考慮序列內(nèi)部的關(guān)鍵信息對情感分類的影響,于是本文模型結(jié)構(gòu)在此基礎(chǔ)上結(jié)合文獻(xiàn)[17]加入MA機(jī)制,構(gòu)建基于DLMA-BiGRU-CNN模型的文本情感模型,區(qū)別于傳統(tǒng)的RNN-CNN引入注意力的方法。此外,針對文獻(xiàn)[17]單一的MA層進(jìn)行改進(jìn),采用雙層的MA表示句子,學(xué)習(xí)序列內(nèi)部的詞依賴關(guān)系,使文本分類的準(zhǔn)確率得到提升??紤]到神經(jīng)網(wǎng)絡(luò)存在特征抽取不充分或無法學(xué)習(xí)到更深層的語義信息的問題,對文獻(xiàn)[14]的模型進(jìn)行改進(jìn),使用并行輸入的方式,充分提取文本信息,從而使文本分類的效果更好。

    1 相關(guān)研究工作

    1.1 BiGRU

    由于標(biāo)準(zhǔn)RNN無法學(xué)習(xí)到句子的長期依賴關(guān)系,容易出現(xiàn)梯度爆炸或梯度消失問題,且單向的GRU[20]只能獲取上文的依賴信息,無法充分考慮到下文的特征信息,造成在文本建模中存在明顯缺陷,于是本文使用并行的BiGRU對文本進(jìn)行特征提取。如圖1所示,BiGRU是由一個正向GRU和一個反向GRU構(gòu)成,GRU模型是LSTM的一個變體,相對LSTM而言,GRU具有結(jié)構(gòu)簡單、計算效率更高、處理速度更快等優(yōu)點(diǎn)。與具有3個門的LSTM不同,GRU結(jié)構(gòu)只有2個門,即重置門和更新門。

    圖1 GRU結(jié)構(gòu)Fig.1 GRU structure diagram

    GRU[21]模型通過門控機(jī)制學(xué)習(xí)文本的序列特征,控制信息的傳遞與輸出,不僅可以保持信息不受時間影響,而且可以刪除與預(yù)測無關(guān)的信息。重置門將新的輸入與以前的存儲相結(jié)合,而更新門則決定了要保留多少以前的存儲。所以GRU的具體工作原理公式為

    rt=σ(wr·[ht-1,xt]),

    (1)

    zt=σ(wz·[ht-1,xt]),

    (2)

    (3)

    (4)

    式中:xt為輸入數(shù)據(jù);ht為最終的輸出;zt為更新門;rt為重置門;σ為激活函數(shù)sigmoid,函數(shù)在[0,1]內(nèi)取值;tanh為雙曲正切函數(shù);wr,wz和w分別為隱藏層、重置門和更新門的權(quán)重矩陣;下標(biāo)t為當(dāng)前時刻;下標(biāo)t-1為前一時刻;ht-1為前一時刻的細(xì)胞隱藏狀態(tài)。

    融合前置GRU和后置GRU的輸出,其融合計算公式為

    (5)

    1.2 CNN

    CNN是基于多層網(wǎng)絡(luò)結(jié)構(gòu)訓(xùn)練的監(jiān)督學(xué)習(xí)算法,是一種前饋人工神經(jīng)網(wǎng)絡(luò)[22]。CNN采用一系列卷積層、池化層和全連接層構(gòu)造模型。

    卷積層:卷積層的結(jié)構(gòu)是由不同單獨(dú)層組成的,其核心操作就是利用卷積核對輸入特征進(jìn)行運(yùn)算。卷積過程的實(shí)質(zhì)是濾波器在輸入數(shù)據(jù)特征上滑動計算的過程,用來對文本詞語間的信息進(jìn)行捕捉。首先將詞向量矩陣輸入到DCNN網(wǎng)絡(luò)中,其詞向量矩陣公式為

    xi=x1⊕x2⊕x3⊕…⊕xl,

    (6)

    式中:xi為一個句子里第i個單詞對應(yīng)的詞向量;下標(biāo)l為句子的長度;⊕為連接運(yùn)算符。

    特征表達(dá)式為

    ci=f(w·xi+h-1+b),

    (7)

    式中:w為高度h、寬度d、窗口h×d的卷積核;b為偏置向量;f為激活函數(shù)Relu。

    經(jīng)過卷積操作后,得到特征圖c,

    c=[c1,c2,c3,…,cl]。

    (8)

    池化層:在經(jīng)過卷積層之后,得到了很多特征維度較高的特征圖。在卷積操作后進(jìn)行最大池化操作,降低特征維度,保持特征在空間與結(jié)構(gòu)上不變,減小特征圖c的大小,并簡化卷積層輸出的信息。其池化表達(dá)式為

    (9)

    全連接層:將提取到的局部特征信息融合為全局特征,最后使用softmax分類函數(shù)計算概率大小,得到文本的情感傾向。

    2 模型建立

    2.1 模型提出

    本文提出一種基于DLMA-BiGRU-CNN模型的文本情感分析方法,模型構(gòu)建如圖2所示。模型包括文本輸入層、DLMA層、并行BiGRU層、并行CNN層和文本分類層。首先,在輸入層利用word2vec模型捕捉單詞的語義特征并訓(xùn)練詞向量;其次,在DLMA層借助DLMA學(xué)習(xí)文本內(nèi)部的詞依賴關(guān)系;再次,在并行BiGRU層使用并行的BiGRU模型獲取文本的序列特征;最后,并行CNN層借助并行CNN模型提取深層次特征信息,在分類層完成文本情感分析。

    圖2 基于DLMA-BiGRU-CNN的文本情感分析模型Fig.2 Text sentiment analysis model based on DLMA-BiGRU-CNN

    2.2 文本輸入層

    首先使用結(jié)巴(Jieba)分詞對詞語進(jìn)行精準(zhǔn)的分詞處理,其次利用Word2vec模型訓(xùn)練詞向量。Word2vec是由Google在2013年提出的深度學(xué)習(xí)模型。Word2vec模型包括CBOW和Skip-gram兩種創(chuàng)建詞向量的模型,CBOW模型基于周圍的上下文詞語計算某個詞出現(xiàn)的概率,Skip-gram模型根據(jù)目標(biāo)詞計算前后出現(xiàn)幾個詞的概率。本文選用Skip-gram模型對本文詞向量進(jìn)行訓(xùn)練,并將單詞轉(zhuǎn)換為高維向量,作為模型的輸入數(shù)據(jù)。將訓(xùn)練文本中句子的最大長度設(shè)置為l,作為模型的輸入大小,將每個句子表示成大小為I×dk的文本詞向量矩陣E,其表達(dá)式為

    E=[e1,e2,e3,e4,…,el]T

    ,

    (10)

    式中:ei為句子中第i(1

    2.3 DLMA特征提取層

    多頭注意力機(jī)制的目的是為了從多方面捕獲序列的關(guān)鍵信息,目前MA已經(jīng)在各個領(lǐng)域都有很多應(yīng)用。本文將雙層的MA模型作為一個單獨(dú)的層,有別于傳統(tǒng)的CNN結(jié)合注意力的方法,將雙層的MA模型置于詞向量層后,采用雙層MA學(xué)習(xí)序列內(nèi)部的詞依賴關(guān)系。工作原理如下。

    (1)第一層MA層。將文本的詞向量矩陣E輸送到第一層MA層進(jìn)行句子表示學(xué)習(xí),從而捕獲句子的長距離依賴性和學(xué)習(xí)不同位置的不同語義空間的序列信息。首先通過h個不同的線性變換,將詞向量矩陣E分別轉(zhuǎn)換為相同維度的Q和V,表達(dá)式為

    Q=EWiQ,

    (11)

    K=EWiE,

    (12)

    V=EWiV,

    (13)

    式中:Q為查詢向量序列;K為鍵向量序列;V為值向量序列;WiQ、WiE和WiV為第i個線性表示的參數(shù)矩陣。

    同時進(jìn)行h次自注意力計算,單頭自注意力進(jìn)行逐個向量計算,將qt∈Q(1≤t≤l)和各個ks∈K(1≤s≤l)進(jìn)行內(nèi)積運(yùn)算,并利用softmax獲得qt∈Q(1≤t≤l)和各個vs∈V(1≤s≤l)的相似度,進(jìn)行加權(quán)求和計算,得到一個dv維度的向量,表達(dá)式為

    (14)

    其中,Z為歸一化因子。

    通過計算單頭自注意力,得到一個輸出,即

    (15)

    式中,ais為第i次單頭自注意力計算得到的vs的權(quán)重系數(shù)。

    拼接h次單頭自注意力計算結(jié)果,并進(jìn)行線性變換,得到多頭自注意力結(jié)果。形成第一層MA句子表示,即

    MA1=concat(head1,head2,…,headi)wo,

    (16)

    式中,wo為輸入空間到輸出空間的映射參數(shù)。

    (2)第二層MA層。將第一層得到的MA1和詞向量矩陣E進(jìn)行拼接后得到N1,

    N1=concat(MA1,E)。

    (17)

    將N1輸入到第二層MA層,提取出文本更高層次的特征信息,得到DLMA的輸出結(jié)果:

    MA2=MultiHead(N1,N1,N1)。

    (18)

    2.4 并行BiGRU信息提取層

    在需要輸入上下文的情況下,BiGRU在獲取特征信息方面比LSTM更加有效,用BiGRU模型文本信息不僅使用2種隱藏狀態(tài)從后向前傳遞,而且還使用2種隱藏狀態(tài)從前向后傳遞。由于單一的BiGRU模型隨著網(wǎng)絡(luò)層數(shù)增加性能將受到影響,不能夠充分地提取文本特征,因此,為了解決單通道模型提取信息不充分和受無關(guān)信息干擾較大的問題,本文使用并行的BiGRU模型獲得全局的深層信息,提高網(wǎng)絡(luò)的收斂性。

    將經(jīng)過DLMA的輸出結(jié)果MA2輸入到并行的BiGRU模型中,進(jìn)行式(1)~(5)序列化的特征提取,得到并行的BiGRU輸出h1t和h2t,之后h1t和h2t作為CNN層的輸入進(jìn)行深層次的特征提取。

    2.5 并行CNN特征提取層

    由于BiGRU主要處理的是時間序列問題,考慮到不同的上下文組成也有可能造成不同的語義表達(dá),為了更大程度地提取不同粒度的層次化文本特征,本文在并行BiGRU層后接入并行CNN層,處理深層次的特征向量。并行CNN特征提取部分由2個的卷積神經(jīng)網(wǎng)絡(luò)(CNN)組成,且每個CNN由卷積層、池化層以及全連接層3部分組成。

    在卷積層,對h1t和h2t使用多個卷積核進(jìn)行卷積處理,每個CNN的卷積層是由3個3×3,4×4,5×5的濾波器構(gòu)成,且濾波器每次的滑動步長為1,這樣經(jīng)過一系列的卷積操作后就可得到維度較高的特征圖c1和c2。在池化層進(jìn)行最大池化操作,得到c′1和c′2。在全連接層將c′1和c′2進(jìn)行融合,得到va,i。

    2.6 分類層

    在經(jīng)過上述特征提取后,在分類層使用softmax函數(shù)計算文本情感分類的概率大小,即

    p=softmax(w2va,i+b2),

    (19)

    式中,w2和b2分別為權(quán)重矩陣和偏置矩陣。

    3 實(shí) 驗(yàn)

    3.1 實(shí)驗(yàn)環(huán)境

    為了確保實(shí)驗(yàn)的準(zhǔn)確性,使用Python 3.5和Keras深度學(xué)習(xí)開源框架進(jìn)行實(shí)驗(yàn)。本文使用的2個數(shù)據(jù)集分別如下。

    SST-2:斯坦福情感數(shù)據(jù)庫二元分類版本,只有2種標(biāo)簽,非常積極和積極的評論被標(biāo)記為正面,消極和非常消極的評論被標(biāo)記為負(fù)面。

    自然語言處理及中文計算會議(natural language processing and Chinese computing,NLPCC)2014數(shù)據(jù)集:該語料共包含中文和英文2種語言,本文使用其中的中文數(shù)據(jù)。

    如表1所示,在文本情感分類時將文本分成

    表1 實(shí)驗(yàn)數(shù)據(jù)設(shè)置

    2類,即積極和消極。每個數(shù)據(jù)集都按8∶2分成訓(xùn)練集和測試集。

    3.2 實(shí)驗(yàn)參數(shù)

    在實(shí)驗(yàn)過程中要調(diào)試參數(shù),因?yàn)閰?shù)的不同就會導(dǎo)致結(jié)果出現(xiàn)差異,為保證網(wǎng)絡(luò)輸入詞向量矩陣的大小統(tǒng)一,將文本的訓(xùn)練樣本數(shù)定為500,序列長度定為250,長度不足的進(jìn)行補(bǔ)零操作,長度超出的截斷。詞向量維度設(shè)置為128。對于并行BiGRU神經(jīng)網(wǎng)絡(luò),每個隱層神經(jīng)元個數(shù)設(shè)置為128;對于并行CNN神經(jīng)網(wǎng)絡(luò),使用不同尺寸的卷積核,設(shè)定為(3,4,5),每個尺寸的卷積核個數(shù)設(shè)置為128。為了防止過擬合,設(shè)定Dropout率為0.5,批處理大小(batch_size)為64,迭代次數(shù)(epoch)為20。

    3.3 模型分類標(biāo)準(zhǔn)

    為了驗(yàn)證模型的可靠性,設(shè)置了多個模型進(jìn)行對比。在本文實(shí)驗(yàn)中將準(zhǔn)確率(Accuracy)以及F-Score作為模型分類的評價標(biāo)準(zhǔn)。其計算式為

    (21)

    Precision=∑ci∈cTrue(ci)/∑ci∈cDoc(ci), (22)

    Recall=∑ci∈cTrue(ci)/∑ci∈cResponse(ci),(23)

    3.4 結(jié)果分析

    為了驗(yàn)證本文模型的有效性,設(shè)置了多個對比模型,將模型參數(shù)進(jìn)行微調(diào),如表2所示。經(jīng)過實(shí)驗(yàn),得出各個模型情感分析結(jié)果,模型如下。

    (1)BiGRU:由文獻(xiàn)[14]提出的單一雙向GRU網(wǎng)絡(luò)模型。

    (2)CNN:由文獻(xiàn)[10]提出的單一卷積神經(jīng)網(wǎng)絡(luò)模型。

    (3)BiRNN-DCNN:由文獻(xiàn)[15]提出的結(jié)合雙向LSTM與CNN的模型。

    (4)DLMA-BiGRU:該模型是由一個雙層多頭自注意力模型和一個雙向門限循環(huán)神經(jīng)網(wǎng)絡(luò)組成,對文本進(jìn)行情感分析。

    (5)DLMA-CNN:該模型是由一個雙層多頭自注意力模型和一個卷積神經(jīng)網(wǎng)絡(luò)組成,對文本進(jìn)行情感分析。

    (6)ATT-BiGRU-CNN模型:由文獻(xiàn)[17]提出基于BiGRU-CNN-ATT模型的文本情感分析模型。

    (7)DLMA-BiGRU-CNN:本文提出的基于雙層多頭自注意力機(jī)制和并行BiGRU-CNN的文本情感分析模型。

    表2 5個模型情感分析結(jié)果

    通過對比2個數(shù)據(jù)集可知,本文所提模型在準(zhǔn)確率和F-Score上較其他網(wǎng)絡(luò)模型有顯著提升,模型準(zhǔn)確率分別為92.71%和91.08%。

    將單一模型CNN或BiGRU模型與BiRNN-DCNN模型對比,發(fā)現(xiàn)將多個模型的優(yōu)勢結(jié)合,混合模型使用了BiRNN學(xué)習(xí)文本序列信息,并結(jié)合CNN獲取局部信息特征,更加充分地提取了文本特征,豐富了特征向量,比單一模型的分類效果有明顯提高。

    將單一模型CNN或者BiGRU模型與DLMA-BiGRU模型或者DLMA-CNN模型進(jìn)行對比,發(fā)現(xiàn)使用雙層多頭自注意力模型比單一模型具有更好的文本情感分類效果。

    BiRNN-DCNN混合模型相對于ATT-BiGRU-CNN模型可以看出,其在正確率上有顯著提升。這是因?yàn)樵诨旌夏P椭幸胱⒁饬δP?,使用注意力層能夠提取文本的重要特征,忽略掉不重要的特征,使分類結(jié)果受無關(guān)詞語的影響盡可能小,從而提升了正確率和分類性能。

    將ATT-BiGRU-CNN混合模型和本文ATT-BiGRU-DCNN模型對比,可以看出,引入雙層多頭自注意力機(jī)制后,模型性能得到顯著提升。因?yàn)殡p層多頭自注意力機(jī)制區(qū)別于傳統(tǒng)的注意力模型,不僅對淺層的詞向量有更好的關(guān)注,而且更好地獲取深層次的句子向量,提升重要部分對文本情感分類的影響力,減小無關(guān)信息的干擾,從而在準(zhǔn)確率上能夠有顯著提高。

    為了更加直觀地顯示不同模型準(zhǔn)確率和F-Score的變化趨勢,將各個模型在NIPCC數(shù)據(jù)集上ACC變化和F-Score變化情況繪制成如圖3~4所示的折線圖,將各個模型在SST-2數(shù)據(jù)集上ACC變化和F-Score變化情況繪制成如圖5~6所示的折線圖。

    圖3 各個模型在NIPCC數(shù)據(jù)集上的ACC折線

    圖4 各個模型在NIPCC數(shù)據(jù)集上的F-Score折線

    圖5 各個模型在SST-2數(shù)據(jù)集上的ACC折線

    由圖3~6可以看出,本文提出的基于DLMA-BiGRU-CNN的文本情感分析模型在準(zhǔn)確率和F-Score上都有明顯提高,證明了本文模型的有效性和優(yōu)越性。

    圖6 各個模型在SST-2數(shù)據(jù)集上的F-Score折線

    4 結(jié) 語

    本文提出一種基于多頭自注意力和并行混合模型的文本情感分析方法,通過實(shí)驗(yàn)對比,該模型在準(zhǔn)確率和F-Score上都有明顯提高,證明了本文模型的優(yōu)越性。由于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性,下一步工作將繼續(xù)深入研究模型,并考慮對文本進(jìn)行多分類或者進(jìn)行更細(xì)粒度的分析,以更加貼合文本的原始情感。

    猜你喜歡
    注意力卷積向量
    向量的分解
    讓注意力“飛”回來
    基于3D-Winograd的快速卷積算法設(shè)計及FPGA實(shí)現(xiàn)
    聚焦“向量與三角”創(chuàng)新題
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
    傳媒評論(2017年3期)2017-06-13 09:18:10
    A Beautiful Way Of Looking At Things
    向量垂直在解析幾何中的應(yīng)用
    向量五種“變身” 玩轉(zhuǎn)圓錐曲線
    曰老女人黄片| 97在线人人人人妻| 亚洲精品美女久久av网站| 韩国精品一区二区三区 | av不卡在线播放| 国产永久视频网站| 免费女性裸体啪啪无遮挡网站| 免费在线观看完整版高清| 麻豆乱淫一区二区| 国产成人aa在线观看| 9热在线视频观看99| 色婷婷av一区二区三区视频| 九草在线视频观看| 在线观看免费视频网站a站| 精品一区二区三区视频在线| 国产国拍精品亚洲av在线观看| 大香蕉久久成人网| 久久鲁丝午夜福利片| 久久婷婷青草| 十八禁高潮呻吟视频| 人妻系列 视频| av电影中文网址| 大片免费播放器 马上看| 九色成人免费人妻av| 91aial.com中文字幕在线观看| 又黄又爽又刺激的免费视频.| 亚洲国产欧美日韩在线播放| 欧美亚洲日本最大视频资源| 国产乱来视频区| 国产精品一区www在线观看| 亚洲色图综合在线观看| 男女高潮啪啪啪动态图| 国产一区二区在线观看av| 亚洲av中文av极速乱| 久久人妻熟女aⅴ| 国产精品.久久久| 宅男免费午夜| 一区二区日韩欧美中文字幕 | 亚洲欧美色中文字幕在线| 国产欧美日韩一区二区三区在线| 如何舔出高潮| 香蕉精品网在线| 久久久久久久大尺度免费视频| 午夜激情av网站| 一区二区三区乱码不卡18| 国产免费视频播放在线视频| 美女福利国产在线| 黄色怎么调成土黄色| 亚洲精品av麻豆狂野| 欧美日韩视频高清一区二区三区二| 夫妻午夜视频| 欧美另类一区| 亚洲国产欧美在线一区| 亚洲国产精品专区欧美| 国产一区二区在线观看日韩| 国产无遮挡羞羞视频在线观看| 亚洲av电影在线观看一区二区三区| 777米奇影视久久| 色哟哟·www| 久久久国产一区二区| 91久久精品国产一区二区三区| 欧美精品av麻豆av| 久久久久人妻精品一区果冻| 久久久久人妻精品一区果冻| 人人妻人人添人人爽欧美一区卜| 久久久精品94久久精品| 免费观看性生交大片5| 成人无遮挡网站| 国产亚洲精品久久久com| 久久影院123| 午夜激情久久久久久久| 成人国语在线视频| av又黄又爽大尺度在线免费看| 高清av免费在线| 欧美另类一区| 两个人看的免费小视频| 一区二区三区四区激情视频| 毛片一级片免费看久久久久| 亚洲成人手机| 午夜福利影视在线免费观看| 欧美国产精品va在线观看不卡| 国产成人aa在线观看| 丰满饥渴人妻一区二区三| 少妇熟女欧美另类| 999精品在线视频| 亚洲精品国产av蜜桃| 久久精品国产亚洲av天美| 欧美精品高潮呻吟av久久| 久久精品熟女亚洲av麻豆精品| 久久这里有精品视频免费| 美女中出高潮动态图| 国产精品不卡视频一区二区| 久久精品国产亚洲av涩爱| 在线天堂中文资源库| 大香蕉久久网| 香蕉丝袜av| 久久久亚洲精品成人影院| 午夜福利网站1000一区二区三区| 视频在线观看一区二区三区| 丝袜人妻中文字幕| 亚洲熟女精品中文字幕| www.色视频.com| 欧美精品国产亚洲| 国产亚洲最大av| 一区二区三区四区激情视频| 亚洲综合精品二区| 亚洲国产色片| 久久久久国产精品人妻一区二区| 激情视频va一区二区三区| 超碰97精品在线观看| 丝袜在线中文字幕| 九九爱精品视频在线观看| 国产日韩欧美亚洲二区| 国产又爽黄色视频| 午夜视频国产福利| 99国产精品免费福利视频| 欧美+日韩+精品| 久久精品人人爽人人爽视色| 纵有疾风起免费观看全集完整版| 欧美日韩视频精品一区| 少妇人妻 视频| 美女国产视频在线观看| 国产亚洲午夜精品一区二区久久| 久久ye,这里只有精品| 亚洲欧美日韩卡通动漫| 国产免费一区二区三区四区乱码| 亚洲,一卡二卡三卡| 亚洲四区av| 99热全是精品| 十八禁高潮呻吟视频| 成年动漫av网址| 亚洲成av片中文字幕在线观看 | 日本欧美国产在线视频| 久久久久国产精品人妻一区二区| 纯流量卡能插随身wifi吗| 国产高清三级在线| 久久狼人影院| 伦精品一区二区三区| 五月开心婷婷网| 人体艺术视频欧美日本| 亚洲国产精品一区二区三区在线| 日韩人妻精品一区2区三区| 亚洲天堂av无毛| 大片电影免费在线观看免费| 人人妻人人添人人爽欧美一区卜| 夜夜骑夜夜射夜夜干| 国产亚洲一区二区精品| 乱码一卡2卡4卡精品| 成人午夜精彩视频在线观看| 日本黄色日本黄色录像| 寂寞人妻少妇视频99o| 91午夜精品亚洲一区二区三区| 少妇被粗大猛烈的视频| 五月玫瑰六月丁香| 黄片播放在线免费| 又黄又粗又硬又大视频| 亚洲精品第二区| 少妇人妻精品综合一区二区| 麻豆精品久久久久久蜜桃| 热re99久久精品国产66热6| 精品视频人人做人人爽| 国产色婷婷99| 日本黄色日本黄色录像| 交换朋友夫妻互换小说| 日本色播在线视频| 日本wwww免费看| 亚洲av男天堂| 丰满迷人的少妇在线观看| 亚洲婷婷狠狠爱综合网| 韩国高清视频一区二区三区| 国产亚洲av片在线观看秒播厂| 精品一区二区三卡| 国产精品不卡视频一区二区| 欧美日韩综合久久久久久| 午夜福利网站1000一区二区三区| 成人黄色视频免费在线看| 日本色播在线视频| 精品久久国产蜜桃| 精品少妇内射三级| 黄色视频在线播放观看不卡| 99久久人妻综合| 成人午夜精彩视频在线观看| 成年人免费黄色播放视频| 国产成人精品久久久久久| 亚洲色图 男人天堂 中文字幕 | videossex国产| 麻豆乱淫一区二区| 免费黄色在线免费观看| 九九爱精品视频在线观看| 18+在线观看网站| 中文字幕另类日韩欧美亚洲嫩草| 91aial.com中文字幕在线观看| 中文字幕人妻熟女乱码| 男女边吃奶边做爰视频| 在线观看免费高清a一片| 韩国av在线不卡| 国产深夜福利视频在线观看| 亚洲精华国产精华液的使用体验| 免费高清在线观看日韩| 久久99精品国语久久久| 日韩伦理黄色片| 免费观看a级毛片全部| 多毛熟女@视频| 一级片'在线观看视频| 欧美精品一区二区免费开放| 久久精品国产a三级三级三级| 亚洲欧美成人精品一区二区| 国产黄色视频一区二区在线观看| 久久人人爽人人爽人人片va| 91精品伊人久久大香线蕉| 久久久久网色| 伊人久久国产一区二区| 国产午夜精品一二区理论片| 你懂的网址亚洲精品在线观看| 99热国产这里只有精品6| 夫妻午夜视频| 女性被躁到高潮视频| av黄色大香蕉| 国产精品.久久久| av播播在线观看一区| 黄片播放在线免费| 99热6这里只有精品| 国产精品久久久av美女十八| 少妇高潮的动态图| 午夜日本视频在线| 日日撸夜夜添| 日本爱情动作片www.在线观看| 欧美亚洲日本最大视频资源| 久久毛片免费看一区二区三区| 最近中文字幕2019免费版| 欧美精品一区二区免费开放| 欧美另类一区| 亚洲国产最新在线播放| 美女视频免费永久观看网站| 亚洲性久久影院| 视频在线观看一区二区三区| 精品久久蜜臀av无| 人妻人人澡人人爽人人| 国产无遮挡羞羞视频在线观看| 国产午夜精品一二区理论片| 亚洲人成77777在线视频| 只有这里有精品99| 一边亲一边摸免费视频| 亚洲精品国产色婷婷电影| 黄色毛片三级朝国网站| 建设人人有责人人尽责人人享有的| tube8黄色片| av有码第一页| 国产一区二区三区av在线| 黑人猛操日本美女一级片| 老司机影院成人| 亚洲国产成人一精品久久久| 中国美白少妇内射xxxbb| 亚洲国产精品一区二区三区在线| 一本—道久久a久久精品蜜桃钙片| 久久午夜福利片| 精品亚洲成a人片在线观看| 久久久久国产网址| freevideosex欧美| 一级片'在线观看视频| 精品卡一卡二卡四卡免费| 晚上一个人看的免费电影| 人人妻人人爽人人添夜夜欢视频| 一级,二级,三级黄色视频| 一本—道久久a久久精品蜜桃钙片| 美国免费a级毛片| 丝袜喷水一区| 亚洲av欧美aⅴ国产| 国产亚洲午夜精品一区二区久久| 男人爽女人下面视频在线观看| 亚洲美女搞黄在线观看| 在线观看国产h片| 国产视频首页在线观看| 亚洲av综合色区一区| 99re6热这里在线精品视频| 亚洲精品日韩在线中文字幕| 搡老乐熟女国产| 一级黄片播放器| 欧美激情国产日韩精品一区| 最新中文字幕久久久久| 午夜91福利影院| 精品亚洲成国产av| 最近中文字幕2019免费版| 亚洲av.av天堂| 国产精品嫩草影院av在线观看| 十八禁高潮呻吟视频| 久久久久久久久久人人人人人人| 观看av在线不卡| xxxhd国产人妻xxx| 国产精品久久久久久久久免| 久久精品国产亚洲av涩爱| 在线观看免费日韩欧美大片| 美女xxoo啪啪120秒动态图| 性色av一级| 少妇被粗大的猛进出69影院 | 久久99精品国语久久久| 黑人猛操日本美女一级片| 在线免费观看不下载黄p国产| 成年动漫av网址| 久久免费观看电影| 97在线视频观看| 美女国产高潮福利片在线看| 另类亚洲欧美激情| 欧美精品一区二区免费开放| 亚洲精品国产色婷婷电影| 亚洲成人一二三区av| 久久久久久久久久成人| 边亲边吃奶的免费视频| 夫妻午夜视频| 啦啦啦啦在线视频资源| 黄色一级大片看看| 美女主播在线视频| 免费观看无遮挡的男女| 极品少妇高潮喷水抽搐| 国产av精品麻豆| 少妇的逼好多水| 欧美人与性动交α欧美软件 | 只有这里有精品99| 久久韩国三级中文字幕| av在线app专区| 永久免费av网站大全| 又大又黄又爽视频免费| 国产亚洲最大av| 欧美3d第一页| 久久久国产精品麻豆| 亚洲av.av天堂| 一本大道久久a久久精品| 秋霞伦理黄片| av网站免费在线观看视频| 青春草亚洲视频在线观看| 国产无遮挡羞羞视频在线观看| 高清视频免费观看一区二区| 午夜日本视频在线| 久久午夜综合久久蜜桃| 另类精品久久| www.av在线官网国产| 黑人高潮一二区| 国产亚洲精品久久久com| 天天影视国产精品| 黄色配什么色好看| 国产一区二区在线观看av| 日本欧美国产在线视频| 国产不卡av网站在线观看| 国产精品国产三级专区第一集| 校园人妻丝袜中文字幕| 男人舔女人的私密视频| 波野结衣二区三区在线| 我的女老师完整版在线观看| 熟女人妻精品中文字幕| av视频免费观看在线观看| 国产黄频视频在线观看| 免费观看性生交大片5| 免费黄频网站在线观看国产| 男女下面插进去视频免费观看 | 欧美精品高潮呻吟av久久| 天天躁夜夜躁狠狠久久av| 色视频在线一区二区三区| 久久人人97超碰香蕉20202| 全区人妻精品视频| 色哟哟·www| 欧美3d第一页| 90打野战视频偷拍视频| 一级片'在线观看视频| 免费看av在线观看网站| 国产男女超爽视频在线观看| 国产精品人妻久久久影院| 性色av一级| 人体艺术视频欧美日本| 九色成人免费人妻av| 另类精品久久| 国产高清不卡午夜福利| www.熟女人妻精品国产 | 视频在线观看一区二区三区| 国产成人av激情在线播放| 晚上一个人看的免费电影| 国产免费福利视频在线观看| 天堂8中文在线网| av线在线观看网站| 国产精品 国内视频| 国产精品一区二区在线不卡| 熟妇人妻不卡中文字幕| 国产成人精品无人区| 天堂8中文在线网| 欧美精品高潮呻吟av久久| 国产精品成人在线| 丰满迷人的少妇在线观看| 男女午夜视频在线观看 | 国产精品一区www在线观看| 国产一区二区三区综合在线观看 | 男人舔女人的私密视频| 亚洲一码二码三码区别大吗| 综合色丁香网| 少妇精品久久久久久久| 男女下面插进去视频免费观看 | 久久久欧美国产精品| 又大又黄又爽视频免费| 日韩 亚洲 欧美在线| 99国产精品免费福利视频| 一级毛片 在线播放| 久久国内精品自在自线图片| 国产精品不卡视频一区二区| 国产成人免费观看mmmm| 熟女人妻精品中文字幕| 欧美激情极品国产一区二区三区 | 亚洲国产毛片av蜜桃av| 亚洲精品视频女| 涩涩av久久男人的天堂| 亚洲av日韩在线播放| 在线观看美女被高潮喷水网站| 91成人精品电影| 汤姆久久久久久久影院中文字幕| 观看美女的网站| 在线观看一区二区三区激情| 2022亚洲国产成人精品| 欧美日韩国产mv在线观看视频| 成人午夜精彩视频在线观看| 又大又黄又爽视频免费| 三级国产精品片| 九九在线视频观看精品| av一本久久久久| 亚洲伊人色综图| 亚洲精品久久久久久婷婷小说| 国精品久久久久久国模美| 午夜影院在线不卡| 一区在线观看完整版| 女性被躁到高潮视频| 亚洲在久久综合| 久久久久视频综合| 欧美成人精品欧美一级黄| 最近最新中文字幕大全免费视频 | 在线 av 中文字幕| 国产欧美亚洲国产| www.熟女人妻精品国产 | 国产成人91sexporn| 亚洲精品第二区| 免费av不卡在线播放| 国产精品一区二区在线不卡| 精品亚洲成国产av| 欧美亚洲 丝袜 人妻 在线| av电影中文网址| 国产精品国产av在线观看| 亚洲综合色惰| 青春草国产在线视频| 99视频精品全部免费 在线| 午夜免费鲁丝| 美女中出高潮动态图| 免费播放大片免费观看视频在线观看| 51国产日韩欧美| 成人免费观看视频高清| 制服人妻中文乱码| 国产亚洲精品第一综合不卡 | 在线免费观看不下载黄p国产| 五月开心婷婷网| 色哟哟·www| 97在线人人人人妻| 亚洲熟女精品中文字幕| 9热在线视频观看99| 国产成人一区二区在线| 三上悠亚av全集在线观看| 母亲3免费完整高清在线观看 | 日韩中字成人| av女优亚洲男人天堂| 90打野战视频偷拍视频| 亚洲国产精品一区三区| 国产成人精品一,二区| 观看av在线不卡| 99热这里只有是精品在线观看| 亚洲欧美一区二区三区黑人 | 丰满迷人的少妇在线观看| 夜夜爽夜夜爽视频| 亚洲欧美成人综合另类久久久| 亚洲人与动物交配视频| 欧美最新免费一区二区三区| 亚洲情色 制服丝袜| 国产免费又黄又爽又色| 国产欧美日韩综合在线一区二区| 欧美精品亚洲一区二区| 国产白丝娇喘喷水9色精品| 伦理电影免费视频| 在线观看一区二区三区激情| av在线观看视频网站免费| 亚洲精品日本国产第一区| 99精国产麻豆久久婷婷| 欧美性感艳星| 日韩电影二区| 亚洲av男天堂| 飞空精品影院首页| 日产精品乱码卡一卡2卡三| 美女国产高潮福利片在线看| 日韩熟女老妇一区二区性免费视频| 精品一区在线观看国产| 久久国产精品男人的天堂亚洲 | 婷婷成人精品国产| 日韩人妻精品一区2区三区| 精品久久久精品久久久| 国产在线免费精品| 美女xxoo啪啪120秒动态图| 久久婷婷青草| 久久人人爽人人爽人人片va| 男女午夜视频在线观看 | 日韩免费高清中文字幕av| 国产成人精品福利久久| 在线观看美女被高潮喷水网站| 欧美激情 高清一区二区三区| 午夜久久久在线观看| 夜夜爽夜夜爽视频| 亚洲伊人久久精品综合| 国产精品蜜桃在线观看| 在线观看免费日韩欧美大片| 亚洲欧美日韩另类电影网站| 国产福利在线免费观看视频| 咕卡用的链子| 青春草视频在线免费观看| 18禁裸乳无遮挡动漫免费视频| 亚洲美女搞黄在线观看| 中文字幕人妻熟女乱码| 超碰97精品在线观看| 欧美日韩成人在线一区二区| 51国产日韩欧美| 一级,二级,三级黄色视频| 曰老女人黄片| 满18在线观看网站| 国内精品宾馆在线| 午夜福利在线观看免费完整高清在| 午夜福利视频精品| 伦理电影大哥的女人| 人人澡人人妻人| 热99久久久久精品小说推荐| 夫妻午夜视频| 午夜福利乱码中文字幕| 免费不卡的大黄色大毛片视频在线观看| 在线亚洲精品国产二区图片欧美| 最新的欧美精品一区二区| 51国产日韩欧美| 美女大奶头黄色视频| 五月天丁香电影| 一级毛片黄色毛片免费观看视频| 精品少妇内射三级| 伦理电影大哥的女人| 欧美+日韩+精品| 久久ye,这里只有精品| 国产精品人妻久久久久久| 国国产精品蜜臀av免费| 热99久久久久精品小说推荐| 欧美精品av麻豆av| 熟女av电影| 丰满迷人的少妇在线观看| 97超碰精品成人国产| 大码成人一级视频| 在线观看一区二区三区激情| xxx大片免费视频| 精品视频人人做人人爽| 大片电影免费在线观看免费| 亚洲国产看品久久| 欧美国产精品一级二级三级| 两个人免费观看高清视频| 久久人人爽人人爽人人片va| 久久精品国产亚洲av天美| 亚洲美女视频黄频| 老熟女久久久| 日本vs欧美在线观看视频| 亚洲美女搞黄在线观看| 免费播放大片免费观看视频在线观看| 久久久久久久大尺度免费视频| 欧美日韩精品成人综合77777| 亚洲国产成人一精品久久久| 少妇被粗大猛烈的视频| 老熟女久久久| 最近最新中文字幕免费大全7| 久久精品国产鲁丝片午夜精品| 亚洲av.av天堂| 午夜影院在线不卡| 18禁裸乳无遮挡动漫免费视频| 老熟女久久久| 18禁裸乳无遮挡动漫免费视频| 一级爰片在线观看| 18禁裸乳无遮挡动漫免费视频| 欧美97在线视频| 国产激情久久老熟女| 国产av一区二区精品久久| 伦理电影免费视频| 人妻一区二区av| 亚洲精品av麻豆狂野| 波野结衣二区三区在线| 人妻人人澡人人爽人人| 亚洲欧美一区二区三区黑人 | 又黄又粗又硬又大视频| 免费观看在线日韩| 在线 av 中文字幕| 久久久久久久久久久久大奶| 日韩 亚洲 欧美在线| 国产精品偷伦视频观看了| 天堂俺去俺来也www色官网| 只有这里有精品99| 久久久久久久大尺度免费视频| 视频区图区小说| 亚洲美女搞黄在线观看| 成人国语在线视频| 欧美97在线视频| 中文字幕最新亚洲高清| 亚洲在久久综合| 嫩草影院入口| 中文字幕人妻丝袜制服| 亚洲精品日本国产第一区| 18在线观看网站| 久热久热在线精品观看| 亚洲国产精品专区欧美| 久久久国产欧美日韩av| 精品午夜福利在线看| 秋霞伦理黄片| 久久人人爽av亚洲精品天堂| 精品酒店卫生间| 2021少妇久久久久久久久久久| 这个男人来自地球电影免费观看 | 成年美女黄网站色视频大全免费|