• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于高性能計算平臺的TensorFlow應(yīng)用探索與實踐

    2018-01-29 07:46:36王一超韋建文
    實驗室研究與探索 2017年12期
    關(guān)鍵詞:高性能集群運算

    王一超, 韋建文

    (上海交通大學(xué) 網(wǎng)絡(luò)信息中心, 上海 200240)

    0 引 言

    深度學(xué)習(xí)作為近年來興起的一種機器學(xué)習(xí)方法[1],可大幅提升包括圖像識別在內(nèi)的諸多模式識別問題的準確率。同時,該方法經(jīng)由GPU大規(guī)模并行計算的助推,已經(jīng)大幅縮短了其模型的訓(xùn)練時間,成為了學(xué)術(shù)與工業(yè)界炙手可熱的機器學(xué)習(xí)方法[2-3]。當(dāng)前,利用深度學(xué)習(xí)提升圖像和語音識別精度的軟件產(chǎn)品層出不窮,并且已大量應(yīng)用于安防、人機交互、語音輸入法等實際場景。在科研領(lǐng)域,越來越多的科學(xué)家也意識到了可以嘗試利用深度學(xué)習(xí)替代傳統(tǒng)的機器學(xué)習(xí)方法[4],提高模式識別或分類問題的精度[5]。在這一大背景下,為支撐校內(nèi)高水平科研用戶的需要,在校高性能計算平臺上結(jié)合高性能計算軟件棧的特點,部署了多款支持深度學(xué)習(xí)的軟件框架,包括CNTK、MXnet、TensorFlow等。同時,在目前的交大超算平臺上,利用TensorFlow框架下的圖像識別模型訓(xùn)練,與最新的NVIDIA Minsky高性能工作站進行了性能對比測試,以驗證平臺對于深度學(xué)習(xí)應(yīng)用的支持效果。

    1 高性能計算平臺

    為應(yīng)對校內(nèi)各院系用戶對計算需求的大幅增加,上海交通大學(xué)于2012年初成立校級高性能計算中心,掛靠校網(wǎng)絡(luò)信息中心,為全校提供高性能計算的公共服務(wù)。該校級高性能計算平臺于2013年建成并上線服務(wù)超算集群π,2013年6月世界排名158,國內(nèi)高校第一,上海地區(qū)第一[6]。

    1.1 硬件環(huán)境

    π集群采用異構(gòu)計算設(shè)計,計算資源由Intel至強多核處理器和NVIDIA GPU加速卡組成,經(jīng)過2輪升級之后,目前整機的理論計算峰值性能為343TFlops,聚合存儲能力達4PB,為國內(nèi)高校領(lǐng)先的大規(guī)模GPU異構(gòu)計算集群,具體硬件配置如表1所示。

    表1 π集群硬件配置

    2016年發(fā)布的NVIDIA Pascal架構(gòu)是目前最先進的GPU加速卡架構(gòu),相較于2013年建設(shè)集群時所采用的Kepler架構(gòu),不僅提升了浮點數(shù)運算能力和內(nèi)存訪問帶寬,更支持了適應(yīng)目前深度學(xué)習(xí)應(yīng)用特點的半精度浮點數(shù)計算(即FP16)[7]。NVIDIA P100加速卡的半精度浮點數(shù)運算性能約為K80的單精度浮點數(shù)運算性能的逾3倍,由于深度學(xué)習(xí)對于精度要求較低,半精度即可勝任,所以現(xiàn)已在集群的GPU節(jié)點上部署測試P100加速卡。

    1.2 軟件環(huán)境

    π集群利用module管理面向用戶的全局軟件環(huán)境,我們在集群上安裝了諸多常用的開源軟件及完整的編譯環(huán)境,面向所有用戶開放使用。用戶僅需在自己賬號下加載相關(guān)軟件或者工具庫,即module load指令,便可使用所需要的軟件。這種配置方案節(jié)省了用戶對于軟件及編譯環(huán)境的部署學(xué)習(xí)時間,同時我們對于全局軟件環(huán)境的定期升級與維護,也保障了用戶始終能在優(yōu)化后的軟件環(huán)境下運行計算作業(yè),從而提升作業(yè)運行效率。

    TensorFlow是由Google公司開發(fā)的一款支持不同深度學(xué)習(xí)應(yīng)用的軟件框架,在這款基于Python的軟件框架上可以通過調(diào)用不同的程序接口,構(gòu)建深度學(xué)習(xí)訓(xùn)練所需的流圖,進行深度學(xué)習(xí)訓(xùn)練。目前人工智能領(lǐng)域最著名的案例,圍棋軟件AlphaGo正是基于該框架開發(fā)的[8]。TensorFlow今年剛剛推出了其1.0版本,目前更新速度較快,故本文中采用基于源代碼的安裝部署方式,目的是在于能使用最新的軟件版本。以下將簡述一下在π集群上部署TensorFlow的實踐方法。

    首先,用戶需要加載正確的全局軟件環(huán)境,包括完整的編譯工具和GPU所需的CUDA并行庫環(huán)境。

    $ module purge

    $ module load gcc/5.4 python/3.5 bazel cuda/8.0 cudnn/6.0

    virtualenv是一款創(chuàng)建隔絕的Python環(huán)境的軟件工具,它通過創(chuàng)建一個包含所有必要的可執(zhí)行文件的文件夾,來解決依賴、版本以及間接權(quán)限問題。用戶被允許在其HOME目錄下創(chuàng)建一個Python的虛擬環(huán)境,然后使用pip管理所需軟件包。

    $ python3 virtualenv.py ~/python35-gcc

    $ source ~/python35-gcc54/bin/activate

    $ pip3 install numpy

    用戶通過git將TensorFlow源代碼下載至其HOME目錄下,并更新至最新版本,進行下一步編譯和安裝

    $ git clone https://github.com/tensorflow/tensorflow

    $ cd tensorflow; git checkout r1.0

    利用bazel編譯工具開啟編譯環(huán)境設(shè)置,在選項中,用戶需要選擇使用GPU,并指明CUDA和cuDNN的安裝路徑。

    $ bazel build--config=opt--config=cuda //tensorflow/tools/pip_package:build_pip_package

    用戶最終將基于以上操作編譯而成的基于pip的TensorFlow安裝包安裝到用戶本地的python目錄下。打開Python后,即可正常使用TensorFlow。

    2 深度學(xué)習(xí)應(yīng)用

    深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)是由一個或多個卷積層和頂端的全連通層組成,同時也包括關(guān)聯(lián)權(quán)重和池化層[9]。這種網(wǎng)絡(luò)數(shù)學(xué)上就是許多卷積運算和矩陣運算的組合,而卷積運算通過一定的數(shù)學(xué)手段也可以通過矩陣運算完成。這些操作和GPU本來能做的那些圖形點的矩陣運算是一樣的。因此深度學(xué)習(xí)就可以非常恰當(dāng)?shù)赜肎PU進行加速了。

    目前,交大高性能計算平臺上的深度學(xué)習(xí)計算需求主要來自于語音識別和圖像處理,計算機系和醫(yī)學(xué)圖像處理的團隊對于在集群上利用GPU跑深度學(xué)習(xí)作業(yè)。當(dāng)前他們的應(yīng)用占了GPU應(yīng)用的11%,僅次于傳統(tǒng)科學(xué)計算領(lǐng)域的軟件Amber,與GPU版本的Gromacs和Lammps相當(dāng)(見圖1)。

    目前在π集群上使用最多的開源深度學(xué)習(xí)框架是Google公司開發(fā)的TensorFlow。TensorFlow是一個使用數(shù)據(jù)流圖進行數(shù)值計算的開源軟件庫。數(shù)據(jù)流圖中的節(jié)點表示數(shù)學(xué)運算, 數(shù)據(jù)流圖中的邊表示節(jié)點之間互聯(lián)的多維數(shù)據(jù)數(shù)組[11]。而目前在圖像識別領(lǐng)域使用最多的訓(xùn)練模型Inception,即如圖2示例,是一個13層的網(wǎng)絡(luò)模型。本文基于以上現(xiàn)狀,在π集群上基于TensorFlow框架針對Inception模型進行測試實驗[12],用以驗證目前高性能計算集群對于深度學(xué)習(xí)應(yīng)用的支持情況。

    圖1 π集群GPU應(yīng)用利用率占比[10]

    圖2 TensorFlow框架下Inception模型的數(shù)據(jù)流圖

    3 性能分析

    為分析深度學(xué)習(xí)應(yīng)用在π集群上的實際性能,本文針對基于TensorFlow架構(gòu)的Inception-V3模型進行訓(xùn)練性能的測試,圖像測試集采用大規(guī)模數(shù)據(jù)集ImageNet,該數(shù)據(jù)集大小約1.5 TB,由逾22 000個種類和超過1 500萬張圖片組成。目前,國際上公認最具權(quán)威性的ImageNet國際計算機視覺挑戰(zhàn)賽(ILSVRC)正是基于該數(shù)據(jù)集進行圖像識別準確率的比拼的[13]。由于數(shù)據(jù)集體量較大,我們將ImageNet數(shù)據(jù)集下載并保存至π集群的并行文件系統(tǒng)上,以方便跨界點及多用戶的共同訪問。

    3.1 測試環(huán)境

    為了能和目前主流的深度學(xué)習(xí)專用工作站進行性能對比,本次實驗不僅只在π集群的GPU測試節(jié)點(搭載了NVIDIA P100加速卡[14])上進行,我們還在同樣搭載了NVIDIA P100加速卡且支持NVLink高速互聯(lián)技術(shù)的IBM Minsky測試機上做了同樣的訓(xùn)練測試。

    如圖3所示,NVLink高速互聯(lián)技術(shù)相較于異構(gòu)計算中常用的PCIe互聯(lián),訪存帶寬可以取得5倍的提升,從而緩解由主存與GPU顯存之間傳輸效率低造成的性能瓶頸。具體的測試平臺軟硬件環(huán)境配置如表2所示。

    3.2 性能結(jié)果對比

    本文使用了ImageNet數(shù)據(jù)集訓(xùn)練Inception-V3圖像識別模型,依次進行了1~4塊GPU卡的訓(xùn)練測試,為保證負載的平均,batch值也相應(yīng)做了調(diào)整,實驗輸入如表3所示。

    配置項目πsupercomputer測試節(jié)點Minsky測試機CPU雙路IntelE5?2680POWER8GPU2塊P100?PCIE4塊P100?SMXNVLink不支持支持內(nèi)存64GB32GB操作系統(tǒng)CentOS7.0CentOS7.0CUDA版本8.08.0cuDNN版本6.06.0

    表3 深度學(xué)習(xí)應(yīng)用測試輸入

    實驗結(jié)果如圖4所示,Minsky測試機相對于目前π集群的GPU單節(jié)點的1和2卡的性能非常接近,性能差在12%以內(nèi)。而由于目前集群環(huán)境下的TensorFlow尚不支持分布式GPU節(jié)點并行,故無法在此情況下做相應(yīng)對比測試,圖4中展示了Minsky在4卡運行時的性能,相對之前的結(jié)果而言,呈線性增長。

    圖4 利用TensorFlow在Minsky和π集群上訓(xùn)練Inception-V3模型的性能對比

    造成π集群節(jié)點與Minsky測試機上性能差異的原因主要有2點:①Minsky上配備的NVLink高速互聯(lián)技術(shù),提供了5倍于π測試節(jié)點上基于PCIe技術(shù)的傳輸帶寬。從而使得數(shù)據(jù)在從主存?zhèn)鬏斨罣PU設(shè)備內(nèi)存的時間明顯降低了,在1和2卡的實驗中提升了性能;②Minsky測試機集成了4塊P100-SMX GPU卡,該款加速卡相較于采用同樣硬件架構(gòu)的P100-PCIE版本,其核心的主頻更高,因此計算能力有約16%的提升[15]。

    綜上所示,在2013年建成的π超算上成功部署了TensorFlow深度學(xué)習(xí)框架,在將GPU節(jié)點上的GPU加速卡從原有的NVIDIA Kepler架構(gòu)升級至最新的Pascal架構(gòu)后。在實驗中,對比了其與2016年發(fā)布的Minsky測試機上Inception-V3模型的訓(xùn)練性能,實驗結(jié)果顯示性能差異在12%以內(nèi)。由此可見,當(dāng)前的集群硬件條件可以支持深度學(xué)習(xí)應(yīng)用在單節(jié)點上的運行,但在未來的建設(shè)中,仍有待進一步考察高密度GPU節(jié)點對提升深度學(xué)習(xí)應(yīng)用性能的幫助。

    4 結(jié) 語

    在這一輪新的人工智能大潮中,人們利用深度學(xué)習(xí)方法大踏步提升人工智能應(yīng)用預(yù)期的同時,也越來越認識到計算性能對于未來人工智能能發(fā)展的重要性。日本政府近期也提出了發(fā)展面向人工智能的超級計算機戰(zhàn)略。在高校一級的高性能計算平臺上,人工智能的研究需求也理應(yīng)得到滿足,這就需要在已有的集群上更新軟硬件環(huán)境,幫助用戶更快地成功運行相關(guān)計算應(yīng)用。本文分享了交大在高性能計算平臺上配置部署深度學(xué)習(xí)軟件框架,并實踐對比了其與目前最先進的GPU工作站的性能,證明了校級高性能計算平臺可以支撐深度學(xué)習(xí)用戶的計算需求,但在分布式深度學(xué)習(xí)上的性能還有待評估。因為與傳統(tǒng)的科學(xué)計算不同,深度學(xué)習(xí)應(yīng)用由于極高的運算強度,對于多卡情況下的數(shù)據(jù)傳輸性能要求更高,故在工業(yè)界普遍采用單機多卡的高密度GPU節(jié)點方案[16],以提高其性能。在這一方面,在建設(shè)新一階段的超算集群時,也可以對類似的高密度節(jié)點性能進行調(diào)研,以評估其實際應(yīng)用價值。

    [1] 李 航. 統(tǒng)計學(xué)習(xí)方法[M].北京:清華大學(xué)出版社,2012.

    [2] 余 凱, 賈 磊, 陳雨強, 等, 深度學(xué)習(xí)的昨天、今天和明天[J]. 計算機研究與發(fā)展, 2013, 50(9): 1799-1804.

    [3] 張建明,詹智財,成科揚,等.深度學(xué)習(xí)的研究與發(fā)展[J]. 江蘇大學(xué)學(xué)報:自然科學(xué)版, 2015,36(2): 191-200.

    [4] LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553): 436-444.

    [5] 張煥龍, 胡士強, 楊國勝, 基于外觀模型學(xué)習(xí)的視頻目標跟蹤方法綜述[J]. 計算機研究與發(fā)展, 2015, 52(1): 177-190.

    [6] 林新華, 顧一眾, 上海交通大學(xué)高性能計算建設(shè)的理念與實踐[J]. 華東師范大學(xué)學(xué)報(自然科學(xué)版),2015(S1): 298-303.

    [7] GP100 Pascal Whitepaper [EB/OL]. https://images.nvidia.com/content/pdf/tesla/whitepaper/pascal-architecture-whitepaper.pdf

    [8] Silver D, Huang A, Maddison C J,etal. Mastering the game of Go with deep neural networks and tree search[J]. Nature, 2016, 529(7587):484-489.

    [9] 周志華.機器學(xué)習(xí)[M].北京:清華大學(xué)出版社,2016.

    [10] 上海交通大學(xué)高性能計算中心年度報告2016[EB/OL]. http://hpc.sjtu.edu.cn/report2016_170607.pdf.

    [11] 黃文堅, 唐 源.TensorFlow實戰(zhàn)[M].北京:電子工業(yè)出版社,2017.

    [12] Installing TensorFlow from Sources [EB/OL]. https://www.tensorflow.org/install/install_sources.

    [13] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems. 2012: 1097-1105.

    [14] Deep Learning Performance with P100 GPUs[EB/OL]. http://en.community.dell.com/techcenter/high-performance-computing/b/general_hpc/archive/2016/11/11/deep-learning-performance-with-p100-gpus.

    [15] Inside Pascal: NVIDIA’s Newest Computing Platform [EB/OL]. https://devblogs.nvidia.com/parallelforall/inside-pascal/.

    [16] 顧乃杰, 趙 增, 呂亞飛,等, 基于多GPU的深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法[J]. 小型微型計算機系統(tǒng),2015(5): 1042-1046.

    猜你喜歡
    高性能集群運算
    重視運算與推理,解決數(shù)列求和題
    有趣的運算
    海上小型無人機集群的反制裝備需求與應(yīng)對之策研究
    一種無人機集群發(fā)射回收裝置的控制系統(tǒng)設(shè)計
    電子制作(2018年11期)2018-08-04 03:25:40
    Python與Spark集群在收費數(shù)據(jù)分析中的應(yīng)用
    “整式的乘法與因式分解”知識歸納
    一款高性能BGO探測器的研發(fā)
    電子制作(2017年19期)2017-02-02 07:08:49
    勤快又呆萌的集群機器人
    撥云去“誤”學(xué)乘除運算
    高性能砼在橋梁中的應(yīng)用
    欧美zozozo另类| 久久久成人免费电影| 亚洲专区字幕在线| 国产精品 国内视频| 他把我摸到了高潮在线观看| 久久精品亚洲精品国产色婷小说| 高清毛片免费观看视频网站| 动漫黄色视频在线观看| 老司机午夜福利在线观看视频| 中文字幕熟女人妻在线| 精品一区二区三区视频在线观看免费| 99久国产av精品| 黄频高清免费视频| 香蕉av资源在线| 两性午夜刺激爽爽歪歪视频在线观看| 免费观看的影片在线观看| 精品电影一区二区在线| 国产熟女xx| 成熟少妇高潮喷水视频| 欧美成人性av电影在线观看| 2021天堂中文幕一二区在线观| 成人精品一区二区免费| 好男人在线观看高清免费视频| 亚洲av免费在线观看| 国产亚洲精品av在线| 99在线视频只有这里精品首页| 午夜免费成人在线视频| 国产激情欧美一区二区| 99精品久久久久人妻精品| 亚洲18禁久久av| 午夜视频精品福利| 一级毛片女人18水好多| 亚洲成人久久爱视频| 久久久国产精品麻豆| 日韩精品青青久久久久久| 欧美最黄视频在线播放免费| 国产美女午夜福利| 在线免费观看的www视频| 99国产精品99久久久久| 九九久久精品国产亚洲av麻豆 | 亚洲国产欧洲综合997久久,| 手机成人av网站| 日本撒尿小便嘘嘘汇集6| 日韩三级视频一区二区三区| 每晚都被弄得嗷嗷叫到高潮| 精品久久久久久成人av| 免费看十八禁软件| 黄片小视频在线播放| 国产黄片美女视频| 性欧美人与动物交配| 免费观看人在逋| 黑人操中国人逼视频| 美女高潮的动态| 免费大片18禁| www日本黄色视频网| 曰老女人黄片| 成人亚洲精品av一区二区| 免费观看人在逋| 日韩成人在线观看一区二区三区| 波多野结衣巨乳人妻| 别揉我奶头~嗯~啊~动态视频| 成在线人永久免费视频| 99久久久亚洲精品蜜臀av| 美女被艹到高潮喷水动态| 亚洲国产色片| 久久精品国产亚洲av香蕉五月| 色综合婷婷激情| 欧美丝袜亚洲另类 | 亚洲精品在线观看二区| 中出人妻视频一区二区| 亚洲av第一区精品v没综合| 日韩精品青青久久久久久| 国产又黄又爽又无遮挡在线| 亚洲中文av在线| 日韩免费av在线播放| 国产麻豆成人av免费视频| 美女高潮喷水抽搐中文字幕| 免费无遮挡裸体视频| 无人区码免费观看不卡| АⅤ资源中文在线天堂| 12—13女人毛片做爰片一| 脱女人内裤的视频| 日韩有码中文字幕| 欧美性猛交黑人性爽| 亚洲av成人不卡在线观看播放网| 成人欧美大片| 久久九九热精品免费| 九九久久精品国产亚洲av麻豆 | 级片在线观看| 亚洲精华国产精华精| 国产精品一及| 久久国产精品影院| 日韩欧美国产在线观看| 香蕉国产在线看| 天堂动漫精品| 老熟妇仑乱视频hdxx| 国产亚洲精品av在线| 日本三级黄在线观看| 国产亚洲欧美98| 免费看十八禁软件| 性色av乱码一区二区三区2| 精品国产三级普通话版| 日韩精品中文字幕看吧| 伦理电影免费视频| 午夜福利视频1000在线观看| or卡值多少钱| 国产又色又爽无遮挡免费看| 色哟哟哟哟哟哟| 国产午夜精品论理片| av天堂在线播放| 在线观看66精品国产| 嫩草影院入口| 久久午夜综合久久蜜桃| 嫁个100分男人电影在线观看| 黄片大片在线免费观看| 真人做人爱边吃奶动态| 国产精华一区二区三区| 午夜亚洲福利在线播放| 男女午夜视频在线观看| 国产精华一区二区三区| 久久久国产精品麻豆| 色吧在线观看| 欧美一区二区精品小视频在线| 亚洲自偷自拍图片 自拍| 日本三级黄在线观看| xxxwww97欧美| 最近视频中文字幕2019在线8| 91麻豆精品激情在线观看国产| 午夜a级毛片| 97人妻精品一区二区三区麻豆| 91字幕亚洲| 一区二区三区激情视频| 欧美日本视频| 天堂影院成人在线观看| 欧美丝袜亚洲另类 | 欧美三级亚洲精品| 韩国av一区二区三区四区| 亚洲国产精品久久男人天堂| 亚洲人成网站高清观看| 99热6这里只有精品| 午夜成年电影在线免费观看| 两人在一起打扑克的视频| 最近最新免费中文字幕在线| 久久久水蜜桃国产精品网| 在线永久观看黄色视频| 亚洲成人中文字幕在线播放| 999久久久国产精品视频| 变态另类成人亚洲欧美熟女| 国产免费男女视频| 成人欧美大片| 美女被艹到高潮喷水动态| 精品国产乱子伦一区二区三区| 老司机午夜福利在线观看视频| 亚洲欧美激情综合另类| 亚洲成av人片免费观看| 黄频高清免费视频| 国产高清有码在线观看视频| 最近视频中文字幕2019在线8| 国产精品,欧美在线| 网址你懂的国产日韩在线| 韩国av一区二区三区四区| 可以在线观看毛片的网站| 色综合欧美亚洲国产小说| 美女 人体艺术 gogo| 亚洲五月天丁香| 最近最新中文字幕大全免费视频| av在线天堂中文字幕| 久久精品aⅴ一区二区三区四区| 国产一区二区在线观看日韩 | 一进一出抽搐gif免费好疼| 久久精品国产综合久久久| 久久久久精品国产欧美久久久| 最新在线观看一区二区三区| 黄色片一级片一级黄色片| 国产精品爽爽va在线观看网站| 中文字幕人妻丝袜一区二区| 无遮挡黄片免费观看| 身体一侧抽搐| 欧美三级亚洲精品| 午夜两性在线视频| 国产激情欧美一区二区| 在线播放国产精品三级| 亚洲国产中文字幕在线视频| 国产欧美日韩一区二区精品| a级毛片在线看网站| 一夜夜www| 叶爱在线成人免费视频播放| 99精品欧美一区二区三区四区| 悠悠久久av| 网址你懂的国产日韩在线| 丁香六月欧美| 久久久精品大字幕| 高清在线国产一区| 亚洲成人久久爱视频| 一边摸一边抽搐一进一小说| 听说在线观看完整版免费高清| 宅男免费午夜| 中文字幕人成人乱码亚洲影| 人人妻人人澡欧美一区二区| 丰满的人妻完整版| 麻豆国产97在线/欧美| 我要搜黄色片| 91av网站免费观看| 色播亚洲综合网| 亚洲av熟女| 欧美日韩乱码在线| 在线观看美女被高潮喷水网站 | 亚洲一区二区三区色噜噜| 在线a可以看的网站| 精品福利观看| 美女被艹到高潮喷水动态| 亚洲国产欧美网| 夜夜躁狠狠躁天天躁| 欧美中文综合在线视频| 婷婷丁香在线五月| 成年女人毛片免费观看观看9| 国产欧美日韩一区二区精品| 俺也久久电影网| 久久久久国内视频| 91在线精品国自产拍蜜月 | 91字幕亚洲| 嫩草影视91久久| 精品人妻1区二区| 精品人妻1区二区| 一级黄色大片毛片| 黄色 视频免费看| 亚洲成人久久性| 亚洲午夜精品一区,二区,三区| 一本一本综合久久| 十八禁人妻一区二区| 91av网站免费观看| 亚洲性夜色夜夜综合| 久久久久久久午夜电影| 国产三级黄色录像| 亚洲精品粉嫩美女一区| 亚洲av成人av| 亚洲国产欧美人成| 成在线人永久免费视频| 国产精品精品国产色婷婷| 免费观看人在逋| 午夜亚洲福利在线播放| 男女之事视频高清在线观看| 国产精品精品国产色婷婷| 变态另类丝袜制服| 亚洲熟妇中文字幕五十中出| 九色成人免费人妻av| 中文字幕熟女人妻在线| 十八禁网站免费在线| 国产高清视频在线观看网站| 久久这里只有精品中国| 热99在线观看视频| 久久精品aⅴ一区二区三区四区| 日韩欧美一区二区三区在线观看| 国产伦精品一区二区三区视频9 | 99热6这里只有精品| 久久久久性生活片| 少妇的丰满在线观看| 中出人妻视频一区二区| 中文字幕最新亚洲高清| 99热这里只有精品一区 | 可以在线观看的亚洲视频| 美女cb高潮喷水在线观看 | 特大巨黑吊av在线直播| 精品久久久久久久毛片微露脸| 手机成人av网站| 亚洲一区二区三区不卡视频| 国产av麻豆久久久久久久| 99久国产av精品| 操出白浆在线播放| 美女cb高潮喷水在线观看 | 亚洲精华国产精华精| 国产精品爽爽va在线观看网站| 国产伦人伦偷精品视频| 亚洲精品中文字幕一二三四区| 免费观看人在逋| 久久精品aⅴ一区二区三区四区| 美女大奶头视频| 搡老熟女国产l中国老女人| 中文字幕av在线有码专区| 国产午夜精品论理片| 日韩中文字幕欧美一区二区| 悠悠久久av| 无遮挡黄片免费观看| 巨乳人妻的诱惑在线观看| 久久天堂一区二区三区四区| АⅤ资源中文在线天堂| 亚洲aⅴ乱码一区二区在线播放| 亚洲av第一区精品v没综合| 美女cb高潮喷水在线观看 | 亚洲人成网站高清观看| 国内久久婷婷六月综合欲色啪| 亚洲欧美日韩高清在线视频| 亚洲自偷自拍图片 自拍| 国产99白浆流出| 国产野战对白在线观看| 国产精品久久久久久精品电影| 九九热线精品视视频播放| 最近视频中文字幕2019在线8| 成人无遮挡网站| 老司机午夜十八禁免费视频| 成熟少妇高潮喷水视频| 制服人妻中文乱码| 中文字幕久久专区| 国产熟女xx| 夜夜看夜夜爽夜夜摸| 精品电影一区二区在线| 中文字幕人成人乱码亚洲影| 亚洲精品美女久久av网站| 久久中文字幕一级| 午夜亚洲福利在线播放| 国产乱人视频| 丰满人妻一区二区三区视频av | 国产精品久久久久久亚洲av鲁大| 国产伦在线观看视频一区| www日本在线高清视频| 欧美高清成人免费视频www| 99热这里只有是精品50| 免费在线观看视频国产中文字幕亚洲| 激情在线观看视频在线高清| 日韩欧美 国产精品| 久久国产乱子伦精品免费另类| 久久婷婷人人爽人人干人人爱| 国产黄a三级三级三级人| 亚洲精品美女久久久久99蜜臀| 国产精品av久久久久免费| 亚洲国产欧美一区二区综合| 一级作爱视频免费观看| 亚洲avbb在线观看| 国产1区2区3区精品| 婷婷精品国产亚洲av| 久久精品人妻少妇| 国产精品,欧美在线| 成在线人永久免费视频| 亚洲精华国产精华精| 在线看三级毛片| 级片在线观看| 老司机深夜福利视频在线观看| 999精品在线视频| 中文字幕人成人乱码亚洲影| 色综合站精品国产| 欧美在线一区亚洲| 午夜精品久久久久久毛片777| 午夜精品一区二区三区免费看| 国产亚洲精品久久久久久毛片| 午夜免费观看网址| 嫁个100分男人电影在线观看| 丰满人妻熟妇乱又伦精品不卡| 国语自产精品视频在线第100页| 亚洲国产精品sss在线观看| 制服丝袜大香蕉在线| 麻豆成人午夜福利视频| 久久午夜亚洲精品久久| av片东京热男人的天堂| 特大巨黑吊av在线直播| 国产成人av激情在线播放| 麻豆一二三区av精品| 国产视频一区二区在线看| 村上凉子中文字幕在线| 国产精品一区二区三区四区久久| 69av精品久久久久久| 午夜福利视频1000在线观看| 免费看日本二区| 99热精品在线国产| 亚洲中文字幕日韩| 国产主播在线观看一区二区| 听说在线观看完整版免费高清| 在线观看免费午夜福利视频| 久久热在线av| 亚洲色图av天堂| 亚洲精品一区av在线观看| 在线永久观看黄色视频| 亚洲国产精品成人综合色| 欧美3d第一页| 亚洲 欧美一区二区三区| 亚洲 欧美 日韩 在线 免费| 黄色女人牲交| 十八禁人妻一区二区| 国产精品 欧美亚洲| 亚洲 欧美 日韩 在线 免费| 99精品欧美一区二区三区四区| 俺也久久电影网| 精品久久久久久成人av| 真人做人爱边吃奶动态| 日本五十路高清| 国产高清激情床上av| 最近最新中文字幕大全免费视频| 黄色片一级片一级黄色片| 国产精品电影一区二区三区| 国产黄片美女视频| 国产真人三级小视频在线观看| 十八禁网站免费在线| 十八禁人妻一区二区| 免费看日本二区| 91在线观看av| 小说图片视频综合网站| 久久精品国产亚洲av香蕉五月| 两个人视频免费观看高清| 亚洲人成伊人成综合网2020| 天堂影院成人在线观看| 不卡av一区二区三区| 亚洲精品在线观看二区| 日本精品一区二区三区蜜桃| 亚洲五月天丁香| 熟女少妇亚洲综合色aaa.| 亚洲在线观看片| 日本黄大片高清| 亚洲国产欧洲综合997久久,| 欧美激情在线99| 午夜激情欧美在线| 国产欧美日韩精品一区二区| 两个人的视频大全免费| 国产精品av视频在线免费观看| 亚洲欧美日韩卡通动漫| bbb黄色大片| 国产1区2区3区精品| 男人舔女人的私密视频| 久久久久久久久久黄片| 中国美女看黄片| 蜜桃久久精品国产亚洲av| 久久久久久久久中文| 国产乱人伦免费视频| 啦啦啦免费观看视频1| 色播亚洲综合网| 色尼玛亚洲综合影院| 中文资源天堂在线| 久久精品人妻少妇| 国产精品日韩av在线免费观看| 午夜激情欧美在线| 在线国产一区二区在线| 亚洲 国产 在线| 床上黄色一级片| 在线观看日韩欧美| 国产精品一区二区免费欧美| 国产99白浆流出| АⅤ资源中文在线天堂| 熟女人妻精品中文字幕| 真人做人爱边吃奶动态| 后天国语完整版免费观看| 成人亚洲精品av一区二区| 香蕉久久夜色| 亚洲国产看品久久| 免费人成视频x8x8入口观看| 欧美成人免费av一区二区三区| 岛国在线观看网站| www日本黄色视频网| 我要搜黄色片| 99久久国产精品久久久| 日韩大尺度精品在线看网址| 国产亚洲精品av在线| 精华霜和精华液先用哪个| 我要搜黄色片| 欧美中文日本在线观看视频| 好看av亚洲va欧美ⅴa在| 久久国产乱子伦精品免费另类| 亚洲精品中文字幕一二三四区| 法律面前人人平等表现在哪些方面| 在线观看免费午夜福利视频| 观看美女的网站| 久久午夜亚洲精品久久| 丁香六月欧美| 久久久国产欧美日韩av| 日本 欧美在线| 国产精品野战在线观看| 一a级毛片在线观看| 麻豆av在线久日| 欧美日本视频| 五月玫瑰六月丁香| 最新在线观看一区二区三区| 一级黄色大片毛片| 90打野战视频偷拍视频| 老司机午夜福利在线观看视频| av在线蜜桃| 免费人成视频x8x8入口观看| 国产激情欧美一区二区| 午夜福利欧美成人| 久久这里只有精品19| av天堂中文字幕网| 听说在线观看完整版免费高清| 制服人妻中文乱码| 日本五十路高清| 高清毛片免费观看视频网站| 在线观看舔阴道视频| 国产精品久久久久久精品电影| av片东京热男人的天堂| 麻豆成人av在线观看| 国产精品女同一区二区软件 | 不卡av一区二区三区| 国产欧美日韩一区二区三| 桃色一区二区三区在线观看| 免费av不卡在线播放| 国产精品女同一区二区软件 | 两个人看的免费小视频| 丁香欧美五月| 久久性视频一级片| 欧美激情久久久久久爽电影| 19禁男女啪啪无遮挡网站| 伦理电影免费视频| 亚洲精品一区av在线观看| 男插女下体视频免费在线播放| 老司机深夜福利视频在线观看| 亚洲18禁久久av| 特大巨黑吊av在线直播| 亚洲 国产 在线| 十八禁人妻一区二区| 岛国在线观看网站| 亚洲性夜色夜夜综合| 日韩大尺度精品在线看网址| 热99在线观看视频| 在线看三级毛片| 国产一区二区三区视频了| 老鸭窝网址在线观看| 丁香六月欧美| 国产精品av视频在线免费观看| 亚洲人成伊人成综合网2020| 亚洲一区二区三区色噜噜| 一个人观看的视频www高清免费观看 | 亚洲人成伊人成综合网2020| 国产99白浆流出| 18禁美女被吸乳视频| 小蜜桃在线观看免费完整版高清| 99热只有精品国产| 亚洲av电影不卡..在线观看| 国产精品影院久久| tocl精华| 手机成人av网站| 国产伦人伦偷精品视频| 一区二区三区国产精品乱码| 色吧在线观看| 老司机福利观看| 美女大奶头视频| 亚洲人成伊人成综合网2020| 身体一侧抽搐| 色播亚洲综合网| 在线观看舔阴道视频| 九色成人免费人妻av| xxx96com| 国产伦精品一区二区三区视频9 | 亚洲精品美女久久久久99蜜臀| 亚洲男人的天堂狠狠| 国产野战对白在线观看| 99久久国产精品久久久| 久久精品91蜜桃| 岛国在线免费视频观看| 日韩欧美在线乱码| 亚洲精品美女久久av网站| 欧美大码av| 精品国产美女av久久久久小说| 久久久久国产一级毛片高清牌| 免费看a级黄色片| 国产69精品久久久久777片 | 麻豆国产av国片精品| 日韩中文字幕欧美一区二区| 性色avwww在线观看| 国产精品98久久久久久宅男小说| 最近最新中文字幕大全免费视频| 久久亚洲真实| 亚洲最大成人中文| 国产精品 国内视频| 精品不卡国产一区二区三区| 国产精华一区二区三区| 亚洲成人久久性| 免费在线观看成人毛片| 国产av在哪里看| 午夜激情欧美在线| 最好的美女福利视频网| 欧美色欧美亚洲另类二区| 久久精品人妻少妇| 熟女人妻精品中文字幕| 亚洲电影在线观看av| 高清毛片免费观看视频网站| 亚洲专区国产一区二区| a级毛片在线看网站| 亚洲精品一卡2卡三卡4卡5卡| 99国产精品一区二区蜜桃av| 色老头精品视频在线观看| av在线天堂中文字幕| 亚洲国产欧美网| 中文字幕熟女人妻在线| 中文资源天堂在线| 亚洲狠狠婷婷综合久久图片| 在线国产一区二区在线| or卡值多少钱| 亚洲国产欧美网| av在线天堂中文字幕| 亚洲无线观看免费| 成人特级av手机在线观看| 99国产精品99久久久久| a级毛片a级免费在线| 黑人操中国人逼视频| 黄色视频,在线免费观看| 好看av亚洲va欧美ⅴa在| 一个人免费在线观看电影 | 国产三级黄色录像| 中文字幕高清在线视频| 琪琪午夜伦伦电影理论片6080| 久久久久久久久免费视频了| 久久久久久久久久黄片| 99热这里只有是精品50| 哪里可以看免费的av片| 一区二区三区国产精品乱码| 听说在线观看完整版免费高清| 黑人操中国人逼视频| 制服丝袜大香蕉在线| 欧美日韩瑟瑟在线播放| 久久亚洲真实| 激情在线观看视频在线高清| 精品久久久久久久末码| 在线观看免费视频日本深夜| 男女视频在线观看网站免费| 精品不卡国产一区二区三区| a在线观看视频网站| 亚洲精品在线美女| 久久久国产成人免费| 此物有八面人人有两片| 亚洲国产色片|