• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于高性能計算平臺的TensorFlow應(yīng)用探索與實踐

    2018-01-29 07:46:36王一超韋建文
    實驗室研究與探索 2017年12期
    關(guān)鍵詞:高性能集群運算

    王一超, 韋建文

    (上海交通大學(xué) 網(wǎng)絡(luò)信息中心, 上海 200240)

    0 引 言

    深度學(xué)習(xí)作為近年來興起的一種機器學(xué)習(xí)方法[1],可大幅提升包括圖像識別在內(nèi)的諸多模式識別問題的準確率。同時,該方法經(jīng)由GPU大規(guī)模并行計算的助推,已經(jīng)大幅縮短了其模型的訓(xùn)練時間,成為了學(xué)術(shù)與工業(yè)界炙手可熱的機器學(xué)習(xí)方法[2-3]。當(dāng)前,利用深度學(xué)習(xí)提升圖像和語音識別精度的軟件產(chǎn)品層出不窮,并且已大量應(yīng)用于安防、人機交互、語音輸入法等實際場景。在科研領(lǐng)域,越來越多的科學(xué)家也意識到了可以嘗試利用深度學(xué)習(xí)替代傳統(tǒng)的機器學(xué)習(xí)方法[4],提高模式識別或分類問題的精度[5]。在這一大背景下,為支撐校內(nèi)高水平科研用戶的需要,在校高性能計算平臺上結(jié)合高性能計算軟件棧的特點,部署了多款支持深度學(xué)習(xí)的軟件框架,包括CNTK、MXnet、TensorFlow等。同時,在目前的交大超算平臺上,利用TensorFlow框架下的圖像識別模型訓(xùn)練,與最新的NVIDIA Minsky高性能工作站進行了性能對比測試,以驗證平臺對于深度學(xué)習(xí)應(yīng)用的支持效果。

    1 高性能計算平臺

    為應(yīng)對校內(nèi)各院系用戶對計算需求的大幅增加,上海交通大學(xué)于2012年初成立校級高性能計算中心,掛靠校網(wǎng)絡(luò)信息中心,為全校提供高性能計算的公共服務(wù)。該校級高性能計算平臺于2013年建成并上線服務(wù)超算集群π,2013年6月世界排名158,國內(nèi)高校第一,上海地區(qū)第一[6]。

    1.1 硬件環(huán)境

    π集群采用異構(gòu)計算設(shè)計,計算資源由Intel至強多核處理器和NVIDIA GPU加速卡組成,經(jīng)過2輪升級之后,目前整機的理論計算峰值性能為343TFlops,聚合存儲能力達4PB,為國內(nèi)高校領(lǐng)先的大規(guī)模GPU異構(gòu)計算集群,具體硬件配置如表1所示。

    表1 π集群硬件配置

    2016年發(fā)布的NVIDIA Pascal架構(gòu)是目前最先進的GPU加速卡架構(gòu),相較于2013年建設(shè)集群時所采用的Kepler架構(gòu),不僅提升了浮點數(shù)運算能力和內(nèi)存訪問帶寬,更支持了適應(yīng)目前深度學(xué)習(xí)應(yīng)用特點的半精度浮點數(shù)計算(即FP16)[7]。NVIDIA P100加速卡的半精度浮點數(shù)運算性能約為K80的單精度浮點數(shù)運算性能的逾3倍,由于深度學(xué)習(xí)對于精度要求較低,半精度即可勝任,所以現(xiàn)已在集群的GPU節(jié)點上部署測試P100加速卡。

    1.2 軟件環(huán)境

    π集群利用module管理面向用戶的全局軟件環(huán)境,我們在集群上安裝了諸多常用的開源軟件及完整的編譯環(huán)境,面向所有用戶開放使用。用戶僅需在自己賬號下加載相關(guān)軟件或者工具庫,即module load指令,便可使用所需要的軟件。這種配置方案節(jié)省了用戶對于軟件及編譯環(huán)境的部署學(xué)習(xí)時間,同時我們對于全局軟件環(huán)境的定期升級與維護,也保障了用戶始終能在優(yōu)化后的軟件環(huán)境下運行計算作業(yè),從而提升作業(yè)運行效率。

    TensorFlow是由Google公司開發(fā)的一款支持不同深度學(xué)習(xí)應(yīng)用的軟件框架,在這款基于Python的軟件框架上可以通過調(diào)用不同的程序接口,構(gòu)建深度學(xué)習(xí)訓(xùn)練所需的流圖,進行深度學(xué)習(xí)訓(xùn)練。目前人工智能領(lǐng)域最著名的案例,圍棋軟件AlphaGo正是基于該框架開發(fā)的[8]。TensorFlow今年剛剛推出了其1.0版本,目前更新速度較快,故本文中采用基于源代碼的安裝部署方式,目的是在于能使用最新的軟件版本。以下將簡述一下在π集群上部署TensorFlow的實踐方法。

    首先,用戶需要加載正確的全局軟件環(huán)境,包括完整的編譯工具和GPU所需的CUDA并行庫環(huán)境。

    $ module purge

    $ module load gcc/5.4 python/3.5 bazel cuda/8.0 cudnn/6.0

    virtualenv是一款創(chuàng)建隔絕的Python環(huán)境的軟件工具,它通過創(chuàng)建一個包含所有必要的可執(zhí)行文件的文件夾,來解決依賴、版本以及間接權(quán)限問題。用戶被允許在其HOME目錄下創(chuàng)建一個Python的虛擬環(huán)境,然后使用pip管理所需軟件包。

    $ python3 virtualenv.py ~/python35-gcc

    $ source ~/python35-gcc54/bin/activate

    $ pip3 install numpy

    用戶通過git將TensorFlow源代碼下載至其HOME目錄下,并更新至最新版本,進行下一步編譯和安裝

    $ git clone https://github.com/tensorflow/tensorflow

    $ cd tensorflow; git checkout r1.0

    利用bazel編譯工具開啟編譯環(huán)境設(shè)置,在選項中,用戶需要選擇使用GPU,并指明CUDA和cuDNN的安裝路徑。

    $ bazel build--config=opt--config=cuda //tensorflow/tools/pip_package:build_pip_package

    用戶最終將基于以上操作編譯而成的基于pip的TensorFlow安裝包安裝到用戶本地的python目錄下。打開Python后,即可正常使用TensorFlow。

    2 深度學(xué)習(xí)應(yīng)用

    深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)是由一個或多個卷積層和頂端的全連通層組成,同時也包括關(guān)聯(lián)權(quán)重和池化層[9]。這種網(wǎng)絡(luò)數(shù)學(xué)上就是許多卷積運算和矩陣運算的組合,而卷積運算通過一定的數(shù)學(xué)手段也可以通過矩陣運算完成。這些操作和GPU本來能做的那些圖形點的矩陣運算是一樣的。因此深度學(xué)習(xí)就可以非常恰當(dāng)?shù)赜肎PU進行加速了。

    目前,交大高性能計算平臺上的深度學(xué)習(xí)計算需求主要來自于語音識別和圖像處理,計算機系和醫(yī)學(xué)圖像處理的團隊對于在集群上利用GPU跑深度學(xué)習(xí)作業(yè)。當(dāng)前他們的應(yīng)用占了GPU應(yīng)用的11%,僅次于傳統(tǒng)科學(xué)計算領(lǐng)域的軟件Amber,與GPU版本的Gromacs和Lammps相當(dāng)(見圖1)。

    目前在π集群上使用最多的開源深度學(xué)習(xí)框架是Google公司開發(fā)的TensorFlow。TensorFlow是一個使用數(shù)據(jù)流圖進行數(shù)值計算的開源軟件庫。數(shù)據(jù)流圖中的節(jié)點表示數(shù)學(xué)運算, 數(shù)據(jù)流圖中的邊表示節(jié)點之間互聯(lián)的多維數(shù)據(jù)數(shù)組[11]。而目前在圖像識別領(lǐng)域使用最多的訓(xùn)練模型Inception,即如圖2示例,是一個13層的網(wǎng)絡(luò)模型。本文基于以上現(xiàn)狀,在π集群上基于TensorFlow框架針對Inception模型進行測試實驗[12],用以驗證目前高性能計算集群對于深度學(xué)習(xí)應(yīng)用的支持情況。

    圖1 π集群GPU應(yīng)用利用率占比[10]

    圖2 TensorFlow框架下Inception模型的數(shù)據(jù)流圖

    3 性能分析

    為分析深度學(xué)習(xí)應(yīng)用在π集群上的實際性能,本文針對基于TensorFlow架構(gòu)的Inception-V3模型進行訓(xùn)練性能的測試,圖像測試集采用大規(guī)模數(shù)據(jù)集ImageNet,該數(shù)據(jù)集大小約1.5 TB,由逾22 000個種類和超過1 500萬張圖片組成。目前,國際上公認最具權(quán)威性的ImageNet國際計算機視覺挑戰(zhàn)賽(ILSVRC)正是基于該數(shù)據(jù)集進行圖像識別準確率的比拼的[13]。由于數(shù)據(jù)集體量較大,我們將ImageNet數(shù)據(jù)集下載并保存至π集群的并行文件系統(tǒng)上,以方便跨界點及多用戶的共同訪問。

    3.1 測試環(huán)境

    為了能和目前主流的深度學(xué)習(xí)專用工作站進行性能對比,本次實驗不僅只在π集群的GPU測試節(jié)點(搭載了NVIDIA P100加速卡[14])上進行,我們還在同樣搭載了NVIDIA P100加速卡且支持NVLink高速互聯(lián)技術(shù)的IBM Minsky測試機上做了同樣的訓(xùn)練測試。

    如圖3所示,NVLink高速互聯(lián)技術(shù)相較于異構(gòu)計算中常用的PCIe互聯(lián),訪存帶寬可以取得5倍的提升,從而緩解由主存與GPU顯存之間傳輸效率低造成的性能瓶頸。具體的測試平臺軟硬件環(huán)境配置如表2所示。

    3.2 性能結(jié)果對比

    本文使用了ImageNet數(shù)據(jù)集訓(xùn)練Inception-V3圖像識別模型,依次進行了1~4塊GPU卡的訓(xùn)練測試,為保證負載的平均,batch值也相應(yīng)做了調(diào)整,實驗輸入如表3所示。

    配置項目πsupercomputer測試節(jié)點Minsky測試機CPU雙路IntelE5?2680POWER8GPU2塊P100?PCIE4塊P100?SMXNVLink不支持支持內(nèi)存64GB32GB操作系統(tǒng)CentOS7.0CentOS7.0CUDA版本8.08.0cuDNN版本6.06.0

    表3 深度學(xué)習(xí)應(yīng)用測試輸入

    實驗結(jié)果如圖4所示,Minsky測試機相對于目前π集群的GPU單節(jié)點的1和2卡的性能非常接近,性能差在12%以內(nèi)。而由于目前集群環(huán)境下的TensorFlow尚不支持分布式GPU節(jié)點并行,故無法在此情況下做相應(yīng)對比測試,圖4中展示了Minsky在4卡運行時的性能,相對之前的結(jié)果而言,呈線性增長。

    圖4 利用TensorFlow在Minsky和π集群上訓(xùn)練Inception-V3模型的性能對比

    造成π集群節(jié)點與Minsky測試機上性能差異的原因主要有2點:①Minsky上配備的NVLink高速互聯(lián)技術(shù),提供了5倍于π測試節(jié)點上基于PCIe技術(shù)的傳輸帶寬。從而使得數(shù)據(jù)在從主存?zhèn)鬏斨罣PU設(shè)備內(nèi)存的時間明顯降低了,在1和2卡的實驗中提升了性能;②Minsky測試機集成了4塊P100-SMX GPU卡,該款加速卡相較于采用同樣硬件架構(gòu)的P100-PCIE版本,其核心的主頻更高,因此計算能力有約16%的提升[15]。

    綜上所示,在2013年建成的π超算上成功部署了TensorFlow深度學(xué)習(xí)框架,在將GPU節(jié)點上的GPU加速卡從原有的NVIDIA Kepler架構(gòu)升級至最新的Pascal架構(gòu)后。在實驗中,對比了其與2016年發(fā)布的Minsky測試機上Inception-V3模型的訓(xùn)練性能,實驗結(jié)果顯示性能差異在12%以內(nèi)。由此可見,當(dāng)前的集群硬件條件可以支持深度學(xué)習(xí)應(yīng)用在單節(jié)點上的運行,但在未來的建設(shè)中,仍有待進一步考察高密度GPU節(jié)點對提升深度學(xué)習(xí)應(yīng)用性能的幫助。

    4 結(jié) 語

    在這一輪新的人工智能大潮中,人們利用深度學(xué)習(xí)方法大踏步提升人工智能應(yīng)用預(yù)期的同時,也越來越認識到計算性能對于未來人工智能能發(fā)展的重要性。日本政府近期也提出了發(fā)展面向人工智能的超級計算機戰(zhàn)略。在高校一級的高性能計算平臺上,人工智能的研究需求也理應(yīng)得到滿足,這就需要在已有的集群上更新軟硬件環(huán)境,幫助用戶更快地成功運行相關(guān)計算應(yīng)用。本文分享了交大在高性能計算平臺上配置部署深度學(xué)習(xí)軟件框架,并實踐對比了其與目前最先進的GPU工作站的性能,證明了校級高性能計算平臺可以支撐深度學(xué)習(xí)用戶的計算需求,但在分布式深度學(xué)習(xí)上的性能還有待評估。因為與傳統(tǒng)的科學(xué)計算不同,深度學(xué)習(xí)應(yīng)用由于極高的運算強度,對于多卡情況下的數(shù)據(jù)傳輸性能要求更高,故在工業(yè)界普遍采用單機多卡的高密度GPU節(jié)點方案[16],以提高其性能。在這一方面,在建設(shè)新一階段的超算集群時,也可以對類似的高密度節(jié)點性能進行調(diào)研,以評估其實際應(yīng)用價值。

    [1] 李 航. 統(tǒng)計學(xué)習(xí)方法[M].北京:清華大學(xué)出版社,2012.

    [2] 余 凱, 賈 磊, 陳雨強, 等, 深度學(xué)習(xí)的昨天、今天和明天[J]. 計算機研究與發(fā)展, 2013, 50(9): 1799-1804.

    [3] 張建明,詹智財,成科揚,等.深度學(xué)習(xí)的研究與發(fā)展[J]. 江蘇大學(xué)學(xué)報:自然科學(xué)版, 2015,36(2): 191-200.

    [4] LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553): 436-444.

    [5] 張煥龍, 胡士強, 楊國勝, 基于外觀模型學(xué)習(xí)的視頻目標跟蹤方法綜述[J]. 計算機研究與發(fā)展, 2015, 52(1): 177-190.

    [6] 林新華, 顧一眾, 上海交通大學(xué)高性能計算建設(shè)的理念與實踐[J]. 華東師范大學(xué)學(xué)報(自然科學(xué)版),2015(S1): 298-303.

    [7] GP100 Pascal Whitepaper [EB/OL]. https://images.nvidia.com/content/pdf/tesla/whitepaper/pascal-architecture-whitepaper.pdf

    [8] Silver D, Huang A, Maddison C J,etal. Mastering the game of Go with deep neural networks and tree search[J]. Nature, 2016, 529(7587):484-489.

    [9] 周志華.機器學(xué)習(xí)[M].北京:清華大學(xué)出版社,2016.

    [10] 上海交通大學(xué)高性能計算中心年度報告2016[EB/OL]. http://hpc.sjtu.edu.cn/report2016_170607.pdf.

    [11] 黃文堅, 唐 源.TensorFlow實戰(zhàn)[M].北京:電子工業(yè)出版社,2017.

    [12] Installing TensorFlow from Sources [EB/OL]. https://www.tensorflow.org/install/install_sources.

    [13] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems. 2012: 1097-1105.

    [14] Deep Learning Performance with P100 GPUs[EB/OL]. http://en.community.dell.com/techcenter/high-performance-computing/b/general_hpc/archive/2016/11/11/deep-learning-performance-with-p100-gpus.

    [15] Inside Pascal: NVIDIA’s Newest Computing Platform [EB/OL]. https://devblogs.nvidia.com/parallelforall/inside-pascal/.

    [16] 顧乃杰, 趙 增, 呂亞飛,等, 基于多GPU的深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法[J]. 小型微型計算機系統(tǒng),2015(5): 1042-1046.

    猜你喜歡
    高性能集群運算
    重視運算與推理,解決數(shù)列求和題
    有趣的運算
    海上小型無人機集群的反制裝備需求與應(yīng)對之策研究
    一種無人機集群發(fā)射回收裝置的控制系統(tǒng)設(shè)計
    電子制作(2018年11期)2018-08-04 03:25:40
    Python與Spark集群在收費數(shù)據(jù)分析中的應(yīng)用
    “整式的乘法與因式分解”知識歸納
    一款高性能BGO探測器的研發(fā)
    電子制作(2017年19期)2017-02-02 07:08:49
    勤快又呆萌的集群機器人
    撥云去“誤”學(xué)乘除運算
    高性能砼在橋梁中的應(yīng)用
    久久久成人免费电影| 麻豆国产97在线/欧美| 亚洲欧美成人综合另类久久久| 天天躁夜夜躁狠狠久久av| 国产精品一区二区三区四区免费观看| 国产精品蜜桃在线观看| 久久国产亚洲av麻豆专区| 国产视频首页在线观看| 爱豆传媒免费全集在线观看| 国产精品av视频在线免费观看| 汤姆久久久久久久影院中文字幕| 日本黄大片高清| 熟女电影av网| 大香蕉久久网| 日韩一区二区视频免费看| 国产精品麻豆人妻色哟哟久久| 精品99又大又爽又粗少妇毛片| 久热这里只有精品99| h日本视频在线播放| freevideosex欧美| 一级片'在线观看视频| 久久国产亚洲av麻豆专区| 少妇人妻精品综合一区二区| 在线观看免费视频网站a站| 国产男女超爽视频在线观看| 亚洲伊人久久精品综合| 国产av国产精品国产| 少妇人妻精品综合一区二区| 亚洲av中文字字幕乱码综合| 亚洲av欧美aⅴ国产| 少妇人妻久久综合中文| 国产黄片视频在线免费观看| 成人二区视频| 精品少妇黑人巨大在线播放| av在线观看视频网站免费| 777米奇影视久久| 美女福利国产在线 | 赤兔流量卡办理| 一级毛片黄色毛片免费观看视频| av免费在线看不卡| 99久久精品国产国产毛片| 中文字幕制服av| 日韩在线高清观看一区二区三区| 日韩一本色道免费dvd| 免费不卡的大黄色大毛片视频在线观看| 亚洲欧美日韩卡通动漫| 国产91av在线免费观看| 一个人看的www免费观看视频| 亚洲欧美精品专区久久| 天堂8中文在线网| 熟女人妻精品中文字幕| 欧美变态另类bdsm刘玥| 亚洲一区二区三区欧美精品| 亚洲精品国产色婷婷电影| 成年人午夜在线观看视频| 老熟女久久久| 亚洲成人av在线免费| 我的老师免费观看完整版| 欧美最新免费一区二区三区| 另类亚洲欧美激情| 丝袜喷水一区| 色婷婷久久久亚洲欧美| 性色avwww在线观看| 校园人妻丝袜中文字幕| 99久久中文字幕三级久久日本| 男人舔奶头视频| 2022亚洲国产成人精品| 国产一区二区三区av在线| 亚洲欧美日韩无卡精品| 91aial.com中文字幕在线观看| 亚洲国产av新网站| 一级毛片电影观看| 色视频在线一区二区三区| 国产美女午夜福利| 精品一区二区三卡| 久久精品人妻少妇| 免费久久久久久久精品成人欧美视频 | 99久国产av精品国产电影| 欧美少妇被猛烈插入视频| 乱系列少妇在线播放| 一级黄片播放器| 啦啦啦啦在线视频资源| 成年av动漫网址| 中文在线观看免费www的网站| 欧美一级a爱片免费观看看| 赤兔流量卡办理| 亚洲久久久国产精品| 国产一区二区三区综合在线观看 | 久久久久视频综合| 大香蕉97超碰在线| 国产 一区 欧美 日韩| 国产精品一区二区在线观看99| 99热国产这里只有精品6| 91在线精品国自产拍蜜月| 亚洲精品中文字幕在线视频 | .国产精品久久| 国产有黄有色有爽视频| av天堂中文字幕网| 毛片一级片免费看久久久久| 欧美xxxx黑人xx丫x性爽| 精品一区二区三区视频在线| 插阴视频在线观看视频| 免费黄色在线免费观看| 少妇熟女欧美另类| 狠狠精品人妻久久久久久综合| 久久精品国产鲁丝片午夜精品| 日韩视频在线欧美| 久久久欧美国产精品| av专区在线播放| 久久国产精品大桥未久av | 99国产精品免费福利视频| 久久这里有精品视频免费| 夜夜看夜夜爽夜夜摸| 一级毛片 在线播放| 成人无遮挡网站| av黄色大香蕉| 日韩人妻高清精品专区| 搡老乐熟女国产| 少妇熟女欧美另类| 亚洲中文av在线| 国内揄拍国产精品人妻在线| 大香蕉97超碰在线| 91精品一卡2卡3卡4卡| 只有这里有精品99| 久久97久久精品| 久久久久久久国产电影| 国产精品久久久久久久电影| 欧美少妇被猛烈插入视频| 亚洲欧美日韩另类电影网站 | 久久久久视频综合| 秋霞在线观看毛片| 成人免费观看视频高清| 中文精品一卡2卡3卡4更新| 丝袜脚勾引网站| a级一级毛片免费在线观看| 男女边摸边吃奶| av一本久久久久| 韩国高清视频一区二区三区| 精品少妇黑人巨大在线播放| 亚洲综合色惰| 少妇人妻精品综合一区二区| 九草在线视频观看| 亚洲国产欧美在线一区| 青春草国产在线视频| 伊人久久精品亚洲午夜| 亚洲av成人精品一二三区| videossex国产| 丝袜喷水一区| 男人舔奶头视频| 国产精品女同一区二区软件| 99热这里只有精品一区| 欧美三级亚洲精品| 国国产精品蜜臀av免费| 免费看日本二区| 五月开心婷婷网| 久久久久精品久久久久真实原创| 日韩亚洲欧美综合| 国产伦在线观看视频一区| 国产午夜精品久久久久久一区二区三区| 综合色丁香网| 精品亚洲成国产av| 亚洲一区二区三区欧美精品| 六月丁香七月| 成人一区二区视频在线观看| 观看av在线不卡| av国产久精品久网站免费入址| 国产亚洲av片在线观看秒播厂| 身体一侧抽搐| 欧美一区二区亚洲| 午夜精品国产一区二区电影| 国产成人精品久久久久久| 日韩av免费高清视频| 日韩一区二区三区影片| 成人免费观看视频高清| 高清av免费在线| 久久久久国产精品人妻一区二区| 性高湖久久久久久久久免费观看| 免费久久久久久久精品成人欧美视频 | 最近最新中文字幕大全电影3| 亚洲av日韩在线播放| 久久久精品94久久精品| 如何舔出高潮| 国产av码专区亚洲av| 日韩av免费高清视频| 青春草国产在线视频| 免费大片黄手机在线观看| 日本vs欧美在线观看视频 | 成人综合一区亚洲| 免费观看a级毛片全部| 国产免费一区二区三区四区乱码| 亚洲av中文字字幕乱码综合| 久久99热这里只有精品18| 国产精品久久久久成人av| 国产免费又黄又爽又色| 国产伦在线观看视频一区| 欧美日本视频| 又粗又硬又长又爽又黄的视频| 在线观看三级黄色| 精品一区二区免费观看| 免费播放大片免费观看视频在线观看| 最近手机中文字幕大全| 国产精品久久久久成人av| 大香蕉97超碰在线| 婷婷色av中文字幕| 一级爰片在线观看| 九草在线视频观看| 日日啪夜夜撸| 一级毛片 在线播放| 亚洲av电影在线观看一区二区三区| 精品久久久精品久久久| 国产精品人妻久久久久久| 成人黄色视频免费在线看| 国产免费一区二区三区四区乱码| 大又大粗又爽又黄少妇毛片口| 亚洲精品久久久久久婷婷小说| 精品少妇久久久久久888优播| 99久久人妻综合| 国产免费福利视频在线观看| 激情 狠狠 欧美| 啦啦啦啦在线视频资源| 国产精品久久久久久久电影| 狂野欧美激情性xxxx在线观看| 国产精品久久久久久久久免| 亚洲经典国产精华液单| 大码成人一级视频| 建设人人有责人人尽责人人享有的 | 亚洲,一卡二卡三卡| 国产极品天堂在线| 亚洲欧美日韩无卡精品| 我要看日韩黄色一级片| 欧美xxⅹ黑人| 只有这里有精品99| 一级a做视频免费观看| 女人十人毛片免费观看3o分钟| 国产深夜福利视频在线观看| 看十八女毛片水多多多| 哪个播放器可以免费观看大片| 97热精品久久久久久| 国产91av在线免费观看| 少妇高潮的动态图| 最近最新中文字幕免费大全7| 久久人人爽人人爽人人片va| 国语对白做爰xxxⅹ性视频网站| 蜜桃久久精品国产亚洲av| 免费少妇av软件| 我的老师免费观看完整版| 亚洲一级一片aⅴ在线观看| 亚洲va在线va天堂va国产| 丝袜脚勾引网站| 国产淫语在线视频| 99视频精品全部免费 在线| 日本色播在线视频| 91久久精品国产一区二区三区| 六月丁香七月| 亚洲成人一二三区av| 80岁老熟妇乱子伦牲交| 天天躁夜夜躁狠狠久久av| 中国三级夫妇交换| 美女cb高潮喷水在线观看| 免费黄频网站在线观看国产| 一个人看的www免费观看视频| 久久精品国产自在天天线| 欧美性感艳星| 精品人妻熟女av久视频| 亚洲第一av免费看| 国产免费福利视频在线观看| 久久久国产一区二区| 婷婷色综合www| 欧美+日韩+精品| 午夜激情久久久久久久| 观看免费一级毛片| 久久久成人免费电影| 国产69精品久久久久777片| 制服丝袜香蕉在线| 午夜福利影视在线免费观看| 国产黄片美女视频| 国精品久久久久久国模美| 久久婷婷青草| 国产成人免费观看mmmm| 亚洲精品中文字幕在线视频 | 女性生殖器流出的白浆| 欧美性感艳星| 国产在线男女| 有码 亚洲区| 直男gayav资源| 国产免费一级a男人的天堂| 91精品伊人久久大香线蕉| av黄色大香蕉| 视频区图区小说| 毛片女人毛片| 青春草视频在线免费观看| 亚洲精品,欧美精品| 久久 成人 亚洲| 一级av片app| 亚洲va在线va天堂va国产| 亚洲av国产av综合av卡| 国产一区二区三区综合在线观看 | 国内少妇人妻偷人精品xxx网站| 午夜福利在线观看免费完整高清在| 青春草视频在线免费观看| 少妇 在线观看| 国产69精品久久久久777片| 免费人妻精品一区二区三区视频| 日韩av在线免费看完整版不卡| 国产一区二区三区av在线| 91狼人影院| 国产一区有黄有色的免费视频| 欧美极品一区二区三区四区| 亚洲av欧美aⅴ国产| 夜夜看夜夜爽夜夜摸| 成年免费大片在线观看| 最近中文字幕高清免费大全6| 免费播放大片免费观看视频在线观看| 国产亚洲5aaaaa淫片| 26uuu在线亚洲综合色| 国产色婷婷99| 国产在线视频一区二区| 国产日韩欧美在线精品| 国产精品蜜桃在线观看| 男人爽女人下面视频在线观看| 国产精品熟女久久久久浪| 好男人视频免费观看在线| 久久久久人妻精品一区果冻| 国产精品免费大片| 亚州av有码| 日本vs欧美在线观看视频 | 小蜜桃在线观看免费完整版高清| 亚洲在久久综合| 人妻制服诱惑在线中文字幕| 免费黄网站久久成人精品| 插阴视频在线观看视频| 亚洲精品国产成人久久av| 97超视频在线观看视频| 亚洲精品久久久久久婷婷小说| 看十八女毛片水多多多| 夫妻性生交免费视频一级片| 久久久午夜欧美精品| 最黄视频免费看| 成人特级av手机在线观看| 日韩亚洲欧美综合| 又爽又黄a免费视频| 夜夜爽夜夜爽视频| 久久综合国产亚洲精品| 中文欧美无线码| 久久久久久伊人网av| 五月伊人婷婷丁香| 国产精品av视频在线免费观看| 国产av国产精品国产| 日韩 亚洲 欧美在线| 欧美成人精品欧美一级黄| 亚洲婷婷狠狠爱综合网| 免费观看av网站的网址| 大陆偷拍与自拍| 十八禁网站网址无遮挡 | 亚洲美女搞黄在线观看| 久久影院123| 高清av免费在线| 亚洲精品国产成人久久av| 亚洲欧美日韩另类电影网站 | 精品酒店卫生间| 中文欧美无线码| 亚洲美女视频黄频| 日韩不卡一区二区三区视频在线| 最近中文字幕2019免费版| 国产乱人偷精品视频| 国产精品久久久久久久久免| 欧美 日韩 精品 国产| 欧美丝袜亚洲另类| 国产亚洲最大av| 国产一区亚洲一区在线观看| av女优亚洲男人天堂| 欧美人与善性xxx| 国产伦精品一区二区三区视频9| 天天躁日日操中文字幕| 啦啦啦啦在线视频资源| 极品教师在线视频| 一边亲一边摸免费视频| 大码成人一级视频| 精品久久久久久久久av| 又粗又硬又长又爽又黄的视频| 26uuu在线亚洲综合色| 久久热精品热| 日韩人妻高清精品专区| 成人特级av手机在线观看| 久久精品熟女亚洲av麻豆精品| 国产日韩欧美在线精品| 中文字幕av成人在线电影| 99热国产这里只有精品6| 熟女电影av网| 成年av动漫网址| 欧美丝袜亚洲另类| 免费观看a级毛片全部| 国产爱豆传媒在线观看| www.av在线官网国产| 久久久久网色| 在线观看三级黄色| 日韩av免费高清视频| 久久ye,这里只有精品| 精品一区二区免费观看| 深夜a级毛片| 亚洲欧洲国产日韩| 一本色道久久久久久精品综合| 免费观看a级毛片全部| 2022亚洲国产成人精品| 国产亚洲5aaaaa淫片| 精品久久国产蜜桃| 日本猛色少妇xxxxx猛交久久| 视频区图区小说| 日日啪夜夜撸| 亚洲欧美日韩无卡精品| 欧美日韩精品成人综合77777| 久久久久精品久久久久真实原创| 免费观看a级毛片全部| 26uuu在线亚洲综合色| 久久精品国产自在天天线| 少妇人妻久久综合中文| 综合色丁香网| 亚洲欧美一区二区三区国产| 午夜精品国产一区二区电影| 国产一区二区三区综合在线观看 | 亚洲精品456在线播放app| 欧美xxxx性猛交bbbb| 精品久久久久久久末码| 激情 狠狠 欧美| 青青草视频在线视频观看| 亚洲欧洲日产国产| 一级二级三级毛片免费看| 久久久久精品性色| 亚洲美女搞黄在线观看| 精品一品国产午夜福利视频| 欧美三级亚洲精品| av网站免费在线观看视频| 大话2 男鬼变身卡| 国产极品天堂在线| 亚洲精品中文字幕在线视频 | 亚洲欧美成人综合另类久久久| 纵有疾风起免费观看全集完整版| 黄片无遮挡物在线观看| 国产视频首页在线观看| 国产在视频线精品| 亚洲精品456在线播放app| 在现免费观看毛片| 亚洲婷婷狠狠爱综合网| 成人漫画全彩无遮挡| 天美传媒精品一区二区| av国产久精品久网站免费入址| 激情 狠狠 欧美| 日韩免费高清中文字幕av| 欧美高清成人免费视频www| 亚洲精品日韩av片在线观看| 日韩大片免费观看网站| 街头女战士在线观看网站| 亚洲精品久久久久久婷婷小说| 午夜福利在线观看免费完整高清在| 久久国产乱子免费精品| 伦精品一区二区三区| 久久精品人妻少妇| 在线观看av片永久免费下载| 欧美另类一区| 99久久精品国产国产毛片| 免费看日本二区| 免费看不卡的av| 久久精品人妻少妇| 日韩中字成人| 日韩成人av中文字幕在线观看| 水蜜桃什么品种好| 国产伦理片在线播放av一区| 色吧在线观看| videossex国产| 欧美极品一区二区三区四区| 国产伦理片在线播放av一区| 美女国产视频在线观看| av在线播放精品| 在线观看免费视频网站a站| 午夜福利网站1000一区二区三区| 日韩三级伦理在线观看| 成年人午夜在线观看视频| 久久精品国产鲁丝片午夜精品| 伦精品一区二区三区| 搡女人真爽免费视频火全软件| 国产极品天堂在线| 亚洲av成人精品一二三区| 搡老乐熟女国产| 婷婷色av中文字幕| 精品少妇黑人巨大在线播放| 哪个播放器可以免费观看大片| 国产淫片久久久久久久久| 国产一区有黄有色的免费视频| 亚洲精品自拍成人| 一级毛片电影观看| 国产人妻一区二区三区在| 嫩草影院新地址| 热99国产精品久久久久久7| 久久精品熟女亚洲av麻豆精品| 中文字幕av成人在线电影| 久久 成人 亚洲| 一级毛片电影观看| 亚洲欧美日韩东京热| 校园人妻丝袜中文字幕| 插逼视频在线观看| 美女福利国产在线 | 亚洲不卡免费看| 2022亚洲国产成人精品| 免费黄网站久久成人精品| 日本与韩国留学比较| 51国产日韩欧美| 精品国产乱码久久久久久小说| 天堂俺去俺来也www色官网| 免费观看在线日韩| 美女高潮的动态| 蜜臀久久99精品久久宅男| 51国产日韩欧美| 欧美bdsm另类| 国产v大片淫在线免费观看| 只有这里有精品99| 一区二区三区免费毛片| 国产永久视频网站| 日韩 亚洲 欧美在线| 五月开心婷婷网| 亚洲四区av| 美女脱内裤让男人舔精品视频| 91在线精品国自产拍蜜月| 国产国拍精品亚洲av在线观看| 免费看不卡的av| 在线观看国产h片| 99re6热这里在线精品视频| 多毛熟女@视频| 精品酒店卫生间| 丰满迷人的少妇在线观看| 欧美变态另类bdsm刘玥| 亚洲欧美日韩卡通动漫| 亚洲欧美日韩东京热| 青青草视频在线视频观看| 欧美日韩综合久久久久久| 天天躁日日操中文字幕| 黄色日韩在线| 亚洲人与动物交配视频| 在线观看一区二区三区激情| 欧美区成人在线视频| 亚洲久久久国产精品| 午夜福利网站1000一区二区三区| 美女xxoo啪啪120秒动态图| 国产69精品久久久久777片| 欧美xxⅹ黑人| 国产精品一区二区在线不卡| 伊人久久国产一区二区| 亚洲怡红院男人天堂| 亚洲欧美日韩另类电影网站 | 久久久久性生活片| 国产av精品麻豆| 日韩成人av中文字幕在线观看| 国产 一区 欧美 日韩| 亚洲精品亚洲一区二区| 久久6这里有精品| 国产欧美日韩精品一区二区| 少妇人妻久久综合中文| 成年人午夜在线观看视频| 国产精品99久久久久久久久| 少妇丰满av| 在线 av 中文字幕| 亚洲成色77777| 日韩强制内射视频| 日日啪夜夜爽| 街头女战士在线观看网站| 人妻少妇偷人精品九色| 国产毛片在线视频| 久久97久久精品| 少妇的逼水好多| av免费在线看不卡| 干丝袜人妻中文字幕| 夜夜看夜夜爽夜夜摸| 一级二级三级毛片免费看| 青春草视频在线免费观看| 精品国产三级普通话版| 午夜激情福利司机影院| 黄色日韩在线| 成人18禁高潮啪啪吃奶动态图 | 国产精品人妻久久久影院| 极品教师在线视频| 国产免费福利视频在线观看| 亚洲国产色片| 黑丝袜美女国产一区| 人人妻人人添人人爽欧美一区卜 | 日韩电影二区| 国产伦精品一区二区三区视频9| 亚洲精品456在线播放app| 欧美精品一区二区大全| 一区二区三区免费毛片| 亚洲精品一二三| 观看美女的网站| 联通29元200g的流量卡| 亚州av有码| 人人妻人人看人人澡| 国产伦精品一区二区三区视频9| 老女人水多毛片| 日本猛色少妇xxxxx猛交久久| 99久久人妻综合| 日本av免费视频播放| 嘟嘟电影网在线观看| 亚洲精品久久久久久婷婷小说| 国产精品熟女久久久久浪| 不卡视频在线观看欧美| 日韩av免费高清视频| av在线app专区| 久久精品久久久久久噜噜老黄| 乱系列少妇在线播放| av.在线天堂| 乱系列少妇在线播放| 在线看a的网站| 18禁裸乳无遮挡免费网站照片| 国产精品麻豆人妻色哟哟久久| 日韩中文字幕视频在线看片 | 亚洲精品视频女| 欧美日韩国产mv在线观看视频 | 久久人人爽av亚洲精品天堂 |