• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于屬性隱私的統(tǒng)計查詢定價模型

    2024-10-14 00:00:00方嘉豪郭兵
    計算機應用研究 2024年10期

    摘 要:現有統(tǒng)計查詢定價模型沒有考慮查詢結果揭露數據集敏感屬性的問題,難以通過相應地補償數據提供方激勵共享,對此提出一種基于屬性隱私的定價模型。首先,基于提出的寬松近似Wasserstein機制(RAWM)計算查詢敏感度,直接計算輸出分布對距離的寬松上界以提高效率;然后,以約束屬性隱私損失為前提,根據查詢敏感度、噪聲方差、補償參數對數據提供方進行補償;最后,在補償之上運用成本加成法設計了多個無套利定價函數,可以針對單補償成本和多邊際成本等場景定價。實驗結果表明,查詢敏感度的計算時間從線性復雜度降低到了常數復雜度,在一億數據量下僅有0.52%的效用代價;定價模型能夠提供細粒度補償以激勵共享;設計的定價函數滿足無套利性。

    關鍵詞:數據定價;數據共享;屬性隱私;河豚魚隱私;無套利

    中圖分類號:TP301 文獻標志碼:A 文章編號:1001-3695(2024)10-014-2978-09

    doi:10.19734/j.issn.1001-3695.2024.02.0044

    Pricing statistical query based on attribute privacy

    Fang Jiahao, Guo Bing

    (College of Computer Science, Sichuan University, Chengdu 610065, China)

    Abstract:Current statistical query pricing models have not considered the problem that query results reveal sensitive attri-butes of datasets, making it difficult to incentivize sharing by compensating data providers accordingly. Therefore, this paper proposed a pricing model based on attribute privacy. Firstly, the model calculated query sensitivity based on the relaxed approximation Wasserstein mechanism (RAWM) proposed, improving efficiency by directly calculate the relaxed upper bound of output distribution pairs. Then, with bounding privacy loss, the model compensated data providers based on query sensitivity, noise variance and compensation parameters. Finally, by using cost-plus pricing on compensation, this paper designed several arbitrage-free pricing functions, which could be used in scenarios such as single compensation costs and multiple marginal costs. The experiment results show that the running time of calculating query sensitivity is reduced from linear complexity to constant complexity, with a utility cost of only 0.52% when data volume is 100 million. The pricing model provides fine-grained compensation to incentivize sharing. Pricing functions satisfy arbitrage freeness.

    Key words:data pricing; data sharing; attribute privacy; pufferfish privacy; arbitrage freeness

    0 引言

    數據共享是數字經濟的關鍵環(huán)節(jié)。如何讓社會各方積累的數據流通起來,打破數據孤島并盤活數據,是當今急需研究和解決的問題[1]。目前,國內外已經出現了如貴陽大數據交易所[2]、DAWEX[3]等數據交易中心和平臺。查詢交易市場可以避免直接交易原始數據[4]。統(tǒng)計查詢服務是最基本的數據服務形式,如直方圖查詢、數據立方查詢等[5~7]。

    數據定價是解決數據共享難題的重要基礎。數據質量是定價的重要參考因素。陳思瑩等人[8]綜合考慮了準確性、完整性、時效性、一致性四個數據質量維度,設計了定價函數。文獻[9]認為現有研究忽略了數據信息價值評估,用香農熵和非噪聲比設計了信息質量指標指導定價。這些基于數據質量的方法,都沒有考慮到數據共享對數據敏感屬性的揭露問題。

    基于模型貢獻衡量的定價也是重要的定價思路。劉珂[10]在預測任務中基于Shapley值將特定預測結果與平均預測結果之差作為定價依據。Wang等人[11]設計了考慮訓練數據貢獻順序的聯(lián)邦Shapley值以對訓練數據估值。Xu等人[12]將模型參數分布的信息熵減小量作為數據貢獻衡量和定價參考?;谀P拓暙I衡量的定價適用于明確的數據應用場景,能夠保證合作多方公平利益分配,不適合本文中應用場景不明確的統(tǒng)計查詢。

    此外,也有基于博弈論和拍賣理論設計定價機制的方法。盧玉等人[13]設計了考慮底價的數據密封拍賣機制對數據進行定價。涂輝招等人[14]設計了帶有平臺利潤約束的Stackelberg博弈機制以提升數據市場多方效用。Wang等人[15]將眾包數據蘊涵的個性化位置隱私作為激勵雙邊拍賣定價的參考。Li等人[16]在基于Stackelberg博弈的數據定價機制中平衡了隱私和公平。然而這些方法對于存在敏感屬性顧慮的場景難以指導賣家出價,導致多方博弈定價結果無法對賣家實現效用最大化。

    數據安全和隱私是數據共享中的重要問題,巫朝霞等人[17] 強調了醫(yī)療數據共享的安全性和隱私性?;陔[私補償的定價是數據定價的重要思路之一。Li等人[18]提出了由統(tǒng)計查詢和噪聲量共同確定價格的個人數據查詢市場,但是要求個人數據之間相互獨立,針對數據間存在關聯(lián)的情況,Niu等人[6]通過在補償函數中引入一個表征數據關聯(lián)度的量實現了更準確的補償和定價。Shen等人[19]基于差分隱私框架設計了個人數據銀行的查詢服務定價方法。Cai等人[20]通過量化屬性相關性實現更精準的高維個人數據定價。然而,這些方法只考慮了對個人隱私損失的補償,只適用于個人數據,沒有考慮針對更廣泛的屬性隱私損失對數據提供方進行補償和激勵。

    近年來,越來越多的研究提到一種新的隱私問題,即使是在數據集上提供非原始數據的數據服務,如統(tǒng)計查詢和機器學習服務,也會揭露數據集的全局屬性,這些全局屬性蘊涵著商業(yè)秘密、安全秘密、知識產權等敏感信息[21]。例如,互聯(lián)網視頻公司共享觀看數據統(tǒng)計查詢,會揭露其流量水平和盈利狀況[22];鐵路局提供某地區(qū)物理車輛的開行記錄統(tǒng)計查詢,會揭露車輛投用和維護狀態(tài)比例,導致戰(zhàn)時后勤運輸能力等敏感信息被推斷;語音識別軟件公司提供語音識別服務,攻擊者可以通過觀察特殊樣本輸出,反向推斷訓練集的特殊口音樣本比例,進而挖掘該公司模型領先市場的秘訣[23]。形式化描述敏感屬性保護問題的隱私理論框架被相應提出。針對差分隱私(DP)[24]只能衡量個人隱私保護問題的不足,Kifer等人[25]對DP進行推廣,提出了可以描述更多隱私保護場景的河豚魚隱私定義。Zhang等人[26]針對敏感屬性保護問題,基于河豚魚隱私提出了屬性隱私定義,將數據集統(tǒng)計特性和背后的分布參數作為需要保護的對象。然而,上述隱私定義只描述了敏感屬性保護問題,沒有解決揭露敏感屬性的數據定價問題。

    隱私定義只能從理論上描述隱私保護問題,而隨機化機制是保護隱私的具體方法。Song等人[27]以滿足河豚魚隱私要求為目標提出了通用但計算難的Wasserstein機制(WM)。Zhang等人[26]提出了滿足屬性隱私要求的馬爾可夫毯機制(MQM)。Chen等人[28]以河豚魚隱私為基礎針對敏感屬性保護問題定義提出了近似Wasserstein機制(AWM)和期望機制(EVM)。然而這些隨機化機制無法同時保證高效用和高效率,高效的EVM和MQM存在缺乏合理性或低效用的問題,而高效用的WM和AWM存在低效率或無法精確計算的問題,因此基于這些隨機化機制設計定價方法都存在缺陷。

    針對上面提到的問題,本文提出一種基于屬性隱私的統(tǒng)計查詢定價模型。首先,提出滿足屬性隱私要求的隨機化機制RAWM,并基于RAWM計算查詢敏感度,在計算分布距離時直接高效計算寬松上界;然后,綜合查詢敏感度、噪聲方差、補償參數設計了補償函數;最后,給出了設計無套利定價函數的方法,在補償之上使用成本加成法針對多個場景設計了無套利定價函數。

    本文的主要工作如下:

    a)首次考慮了包含敏感屬性揭露問題的數據統(tǒng)計查詢定價問題,提出了相應的補償方法和定價方法。

    b)首次提出了隨機化機制RAWM,并基于RAWM計算RAWD敏感度作為查詢敏感度,以極小效用代價提高了效率。

    c)在真實數據集上對本文定價模型進行了實驗。實驗結果表明:在一億數據量下,本文的查詢敏感度算法僅以0.52%的效用代價將計算時間從線性復雜度降低到了常數復雜度;模型能夠提供細粒度補償以激勵共享;套利攻擊均未成功,驗證了定價函數的無套利性。

    1 相關技術基礎

    1.1 屬性隱私

    屬性隱私[26]是用于保護數據集敏感屬性的嚴格隱私定義。屬性隱私是河豚魚隱私的一個實例,而河豚魚隱私是差分隱私的一個推廣[25]。河豚魚隱私由三個部分組成:一個數據提供方想要保護的潛在秘密集合S,一個數據提供方希望他人無法判別的秘密對集合SP=S×S,以及一類代表了攻擊方對數據D生成方式的可能信念的分布集合Θ。通過對河豚魚隱私定義的三個部分進行實例化,就可以得到屬性隱私定義。

    定義1 (,δ)-屬性隱私[26]。讓(Dj1,…,Djm), j∈[n]表示一條從一組隨機變量X=(Xj1,…,Xjm)中獨立同分布采樣得到的m維記錄,其中n是數據集記錄數,Xi描述了Di服從的邊緣分布。從每個隨機變量Xi選取出一個分布參數i,i進一步被看做是隨機變量Φi的一個實現,其中Φi的取值范圍表示為Ψi。全體Φi構成m維隨機變量Φ=(Φ1,…,Φm),屬性間的關聯(lián)由Φ服從的聯(lián)合分布描述,其中Φ∈AC,AC表示可能的m維隨機變量的集合。SC[m]表示數據集D敏感屬性列的下標集合。給定下面的三元組(S,SP,Θ):

    a)秘密集合:S={sia:=1[Φ i=a]:a∈ΨiS,ΨiSΨi,i∈SC} 。

    b)秘密對集合:SP={(sia,sib)∈S×S,i∈SC}。

    c) 數據分布集合:

    Θ是D所有可能數據分布θ的集合。對于每一個可能的m維隨機變量Φ∈AC,Θ中都有一個對應的數據分布θΦ∈Θ代表著D總體服從的分布。

    一個隨機化機制Euclid Math OneMAp被稱為是滿足(,δ)-屬性隱私的,當其對于任意(sa,sb)∈SP,任意θ∈Θ,都滿足

    P(Euclid Math OneMAp(D)=O|sa,θ)≤exp()·P(Euclid Math OneMAp(D)=O|sb,θ)+δ

    其中:是隱私預算;δ是近似概率。

    為了方便表示秘密集合S和秘密對集合SP專屬于敏感屬性下標i∈SC的子集,本文接下來用Si表示S專屬于i的子集:Si={sia:=1[Φ i=a]:a∈ΨiS,ΨiSΨi},用SPi表示SP專屬于i的子集:SPi={(sia,sib)∈Si×Si}。

    1.2 近似Wasserstein機制

    WM是第一個可以滿足河豚魚隱私定義的通用隨機化機制,需要計算查詢輸出分布對fa、 fb的∞-Wasserstein距離,計算過程可以看作尋找使得概率最大轉移代價最小的聯(lián)合分布[27]。但是當fa、 fb的支撐集范圍很大,卻只由極少概率質量決定最大轉移代價,WM計算的∞-Wasserstein距離便會偏大,導致添加過多的拉普拉斯噪聲,查詢效用過差。對此,相較于WM,近似Wasserstein機制(AWM)[28]在計算∞-Wasserstein距離時忽略聯(lián)合分布支撐集上至多δ概率質量,以規(guī)避極小部分概率質量的影響,只需要添加適量的噪聲即可實現河豚魚隱私保證。AWM計算出來的距離被稱為δ-近似Wasserstein距離,嚴格定義如下:

    定義2 δ-近似Wasserstein距離[28]。讓fa、 fb表示一對定義在Euclid ExtraaBp上的概率分布,Γ(fa, fb)表示所有以fa、 fb為邊緣分布的聯(lián)合分布集合。對于一個聯(lián)合分布γ∈Γ(fa, fb),讓Rsupp(γ)表示一個概率值不低于1-δ的支撐集子集,則fa、 fb之間的δ-近似Wasserstein距離被定義為

    Wδ(fa, fb)=infγ∈Γ(fa,fb),Rsupp(γ)max(t,s)∈R|t-s|

    如圖1所示,對于圖中兩個分布,∞-Wasserstein距離為97,而忽略掉概率轉移中代價為97的0.001質量后,剩下部分的最壞轉移代價僅為1,也就是說δ-近似Wasserstein距離為1,意味著WM添加的噪聲是AWM所添加噪聲的97倍。AWM雖然無法計算δ-近似Wasserstein距離的精確解析解,但提供了一種忽略聯(lián)合分布支撐集子集上少量概率的近似計算思路。

    AWM遍歷河豚魚隱私框架中所有秘密對(sa,sb)∈SP和數據分布θ∈Θ的組合,計算每一個組合條件下數據分布對的δ-近似Wasserstein距離,找出最大值,并結合隱私預算對查詢結果添加一個拉普拉斯噪聲,滿足河豚魚隱私要求。用Lap(λ)表示一個位置參數為0,尺度參數為λ的拉普拉斯分布。用fa、 fb分別表示F(X)|sa,θ和F(X)|sb,θ服從的分布。

    定理1 近似Wasserstein機制:

    Euclid Math OneMAp(D)=F(D)+Lapsup(sa,sb)∈SP,θ∈ΘWδ(fa, fb))(1)

    滿足(,δ)-河豚魚隱私[28]。

    1.3 無套利性

    在定價理論中,定價函數的無套利性是一個重要的性質,尤其是對于數據定價[5]。因為與許多傳統(tǒng)商品不同的是,以統(tǒng)計查詢?yōu)榇淼臄祿站哂懈迂S富的多樣性,更容易發(fā)生套利現象,被買家惡意利用。套利現象描述的是這樣一種行為:一個狡猾的買家想要購買查詢A,同時他也注意到他也可以通過購買B和C并組合查詢結果得到A的結果。如果B和C的價格之和低于A的價格,那么該買家一定會選擇購買B和C,而不會購買A。一個合理的定價函數應該是無套利的,以避免發(fā)生套利行為。用符號Q=(F,v)表示一個統(tǒng)計查詢服務,其中v為拉普拉斯噪聲方差。潛在的套利關系可以由查詢確定性關系的符號Euclid ExtraaAp表示,例如在上面的例子中,假設服務的噪聲方差都為0.1,通過組合查詢B和C的結果,可以在不購買A的前提下推斷出查詢A的結果,則該關系可以表示為{(B,0.1),(C,0.1)}Euclid ExtraaAp(A,0.1)。

    定義3 查詢確定性[6,18]。查詢確定性是定義在一個查詢服務多重集合Q={Q1,…,Qt}={(F1,v1),…,(Ft,vt)}和一個統(tǒng)計查詢服務Q=(F,v)之間的一種關系。Q確定Q,用符號表示為QEuclid ExtraaApQ,并且該關系需要滿足以下性質:

    a)加性,{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(∑tk=1Fk,∑tk=1vk);

    b)標量乘性,c∈Euclid ExtraaBp,(F,v)Euclid ExtraaAp(cF,c2v);

    c)松弛性,v≥v′,(F,v′)Euclid ExtraaAp(F,v);

    d)傳遞性,若Q1Euclid ExtraaApQ1,…,QtEuclid ExtraaApQt且{Q1,…,Qt}Euclid ExtraaApQ,

    則∪tk=1QkEuclid ExtraaApQ。

    查詢確定性還有一種更加凝練的表述方式:{(F1,v1),…,

    (Ft,vt)}Euclid ExtraaAp(F,v),當且僅當存在c1,…,ct使得

    c1F1+…+ctFt=F和c21v1+…+c2tvt≤v成立?;诓樵兇_定性的表述,可以對無套利性進行嚴格定義,用符號π(Q)表示查詢服務Q的價格。

    定義4 無套利性[6,18]。一個定價函數π(·)被稱作是無套利的,或者說滿足無套利性的,如果對t≥1,只要有{Q1,…,Qt}Euclid ExtraaApQ,那么就有π(Q)≤∑tk=1π(Qk)。

    2 定價模型

    本文定價模型所面向的市場模型為中心化數據市場模型,或者說為中心化數據共享模型。如圖2所示,市場中有數據提供方、數據管理方和數據需求方三類角色。數據提供方為擁有屬性敏感數據集的組織,如企業(yè)和政府等。數據管理方為一個可信的第三方管理者或組織內部的數據部門,例如不同政府部門的數據交由大數據中心進行匯聚和托管,企業(yè)內部每個部門將數據交由負責開發(fā)數據中臺的數據部門進行統(tǒng)一管理。數據需求方可以是對統(tǒng)計查詢有需求的外部個人或組織,或者是公司內部各部門、集團內部各方。

    如圖3所示,在該中心化數據市場模型基礎上,數據提供方使用本文定價模型,定價模型包含查詢敏感度算法、補償方法和定價方法三個部分。在查詢敏感度算法中,數據管理方基于本文RAWM,高效地計算RAWD敏感度作為查詢敏感度。在補償方法中,數據管理方以約束屬性隱私損失為依據,根據查詢敏感度等因素,對數據提供方進行補償;在定價方法中,數據管理方基于補償進行成本加成,針對多種場景使用不同的無套利定價函數對統(tǒng)計查詢定價。

    2.1 模型假設

    對于一個特定的數據提供方,其數據集表示為D=[D1,…,Dm],Di表示數據集在完成特征預處理后的第i列。原始數據集中的每一列可以通過特征編碼或特征離散化分解為多列。預處理后的數據集有m列,SC[m]表示敏感屬性列的下標集合。數據集有n行,每行記錄(Dj1,…,Djm), j∈[n]都是獨立同分布的。數據管理方在獲取到數據集D后對數據分布進行學習,使用屬性隱私框架進行建模,并根據數據提供方的要求在D上對外提供統(tǒng)計查詢服務,記查詢函數為F。為了控制查詢結果對敏感屬性的揭露程度,數據管理方在查詢結果中加入方差為v的隨機噪聲。因此,查詢服務Q可以表示為二元組Q=(F,v),添加噪聲所用的隨機化機制表示為Euclid Math OneMAp。由于屬性隱私定義中包含一個近似概率參數δ,數據市場的各方還約定δ為一個確定的微小值(如δ=0.001)。數據管理方最終返回給數據需求方的查詢結果為Euclid Math OneMAp(D)而不是F(D)。相應地,數據管理方對數據需求方收取一定的費用,查詢服務的價格表示為π(Q)=π(F,v)。此外,因為查詢服務揭露了數據提供方希望保護的敏感屬性,數據管理方還需要給予數據提供方ρ(Q)=ρ(F,v)的補償。

    數據管理方在使用屬性隱私框架進行建模時,需要作一定的假設,因為在沒有假設的前提下就使用隱私定義會導致幾乎零效用的查詢服務[25]。所作的假設代表了攻擊者對數據生成方式的信念。既然對數據分布作非常全面的假設非常不實用,數據管理方合理地約束攻擊者對數據分布的不確定性,每個數據列上的不確定性體現為無法確定該列分布參數的取值。對于數值列,不確定性體現在分布均值參數上(如正態(tài)分布的μ參數);對于布爾值列,不確定性體現在伯努利分布的p參數上。在對數據集作了如上的假設后,數據管理方進行建模。此外,數據管理方和數據需求方掌握的數據集知識不對等,因為數據集D對數據管理方是可見的,所以查詢結果對數據管理方表現為F(D)。然而,數據集由于不可見性而對數據需求方表現為X,查詢結果也相應地對數據需求方表現為F(X)。

    數據管理方向數據需求方提供了多種統(tǒng)計查詢,如直方圖查詢、數據立方查詢和均值查詢。所有的統(tǒng)計查詢最終都可以歸為求平均和求和兩類。例如,比例查詢可以看作對服從伯努利分布的數據作了平均查詢,計數查詢可以看作對服從伯努利分布的數據作了求和查詢,直方圖查詢可以看作一組計數查詢查詢結果組成的向量。類似地,各種復合的統(tǒng)計查詢最終都可以分解成最基本的求平均或求和查詢。因此,本文接下來只討論求平均和求和兩種基本的統(tǒng)計查詢。兩種查詢的表達式不同,但是都可以使用中心極限定理求出查詢輸出的近似正態(tài)分布,使Xi,i∈[m]表示進行統(tǒng)計查詢的數據列隨機變量,用μ和σ2表示Xi的期望和方差,即E(Xi)=μ和Var(Xi)=σ2。那么,求平均查詢可以表示為F(X)=1n∑nj=1Xji~N(μ,σ2n),而求和查詢可以表示為F(X)=∑nj=1Xji~N(nμ,nσ2)。

    2.2 查詢敏感度算法

    查詢敏感度是一個反映統(tǒng)計查詢和數據敏感屬性關聯(lián)程度的量,查詢敏感度越大,代表該查詢對敏感屬性的揭露程度越高。嚴格的查詢敏感度定義應該以滿足屬性隱私要求的隨機化機制為依據:對于越敏感的查詢,該隨機化對其添加的噪聲越大,說明可以從噪聲大小中誘導出一個用于反映敏感程度的量,進而定義查詢敏感度。例如,WM計算的最大∞-Wasserstein距離,AWM計算的最大δ-近似Wasserstein距離,這些量與噪聲尺度參數呈正比,可以用于定義查詢敏感度。然而計算∞-Wasserstein距離或δ-近似Wasserstein距離的時間復雜度是O(n),多數情況下數據量n較大。這意味著雖然可以基于WM或AWM定義查詢敏感度,但是會導致敏感度計算成本過高。

    對此,本節(jié)結合統(tǒng)計查詢輸出分布的近似正態(tài)特征,提出能夠滿足(,δ)-屬性隱私的寬松近似Wasserstein機制(RAWM),并基于RAWM提出RAWD敏感度算法,將RAWD敏感度作為查詢敏感度,為后續(xù)補償與定價奠定基礎。RAWM需要計算查詢輸出分布對的δ-寬松近似Wasserstein距離(δ-RAWD),下面結合統(tǒng)計查詢輸出分布對的近似正態(tài)特點,正式定義δ-RAWD。

    定義5 δ-寬松近似Wasserstein距離(δ-RAWD)。對于統(tǒng)計查詢F,給定(sia,sib)∈SP和θ∈Θ,用fa~N(μa,σ2a)和fb~N(μb,σ2b)分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布。給定近似概率δ,用ppf表示標準正態(tài)分布的百分點函數(percent point function, 累積分布函數的逆函數),記d=ppf(1-δ/4),則fa與fb之間的δ-寬松近似Wasserstein距離定義為

    Wδ(fa,fb)=|μa-μb|+dσa+dσb(2)

    如圖4所示,給定兩個正態(tài)分布fa、 fb,計算δ-RAWD相當于先忽略掉每個正態(tài)分布左右支撐集上的各δ/4概率質量,也即忽略掉每個正態(tài)分布的δ/2概率質量,fa剩下的支撐集子集為R′a=[μa-dσa,μa+dσa],fb剩下的支撐集子集為R′b=[μb-dσb,μb+dσb],由正態(tài)分布性質可得P(faR′a)=δ/2和P(fbR′b)=δ/2。根據布爾不等式,任意以fa、 fb為邊緣分布的聯(lián)合分布γ都滿足P(γR′a×R′b)≤δ,這相當于忽略了fa、 fb之間至多δ的概率質量映射。δ-RAWD直接選定一個次優(yōu)聯(lián)合分布γ′,但是不計算γ′所代表概率質量轉移過程的距離,而是計算R′a、R′b邊界的最大距離|μa-μb|+dσa+dσb,作為最大轉移距離的一個寬松上界,避免了時間復雜度為O(n)的∞-Wasserstein距離計算。δ-RAWD以此解決了數據量大時∞-Wasserstein距離或δ-近似Wasserstein距離計算成本高的問題。

    對于每個敏感屬性下標i∈SC,RAWM遍歷所有秘密對(sia,sib)∈SP和數據分布θ∈Θ的組合,計算每一個組合條件下數據分布對fa、 fb的δ-RAWD,找出最大值,并結合隱私預算對查詢結果添加一個拉普拉斯噪聲。

    定理2 寬松近似Wasserstein機制(RAWM):

    Euclid Math OneMAp(D)=F(D)+Lapmaxi∈SCsup(sia,sib)∈SPi,θ∈ΘWδ(fa,fb)(3)

    滿足(,δ)-屬性隱私。

    證明 考慮任意敏感屬性下標i∈SA,任意秘密對(sia,sib)∈SP和數據分布θ∈Θ,用fa~N(μa,σ2a)和fb~N(μb,σ2b)分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布,記W=maxi∈SAsup(sia,sib)∈SPi,θ∈ΘWδ(fa, fb)。

    記d=ppf(1-δ/4)。RAWM對fa選取支撐集子集R′a=[μa-dσa,μa+dσa],對fb選取支撐集子集R′b=[μb-dσb,μb+dσb],根據正態(tài)分布的性質可以得到P(faR′a)=δ/2和P(fbR′b)=δ/2。記R′=R′a×R′b,結合定義5中Wδ(fa,fb)的表達式有

    sup(t,s)∈R′|t-s|≤

    |μa-μb|+dσa+dσb=Wδ(fa,fb)≤

    maxi∈SAsup(siyZbPEuWrnqWX4h7RY/1b0Q==a,sib)∈SPi,θ∈ΘWδ(fa,fb)=W(4)

    任意選取一個聯(lián)合分布γ′∈Γ(fa,fb),根據布爾不等式有P(γR′a×R′b)≤δ,即

    (t,s)R′γ′(t,s)dtds≤δ(5)

    接著,對于任意滿足P(Euclid Math OneMAp(X)∈O)≥δ的ORange(Euclid Math OneMAp),有

    P(Euclid Math OneMAp(X)∈O|sia,θ)=P(F(X)+Z∈O|sia,θ)=

    ∫t P(F(X)=t|sia,θ)P(Z+t∈O)dt=

    ∫t ∫s γ′(t,s)P(Z+t∈O)dsdt=

    (t,s)∈Rγ′(t,s)P(Z+t∈O)dsdt+(t,s)Rγ′(t,s)P(Z+t∈O)dsdt(6)

    由差分隱私的拉普拉斯機制可得,當所添加噪聲Z=Lap(W/ε),對于任意滿足|t-s|≤W的(t,s)∈R′有

    P(Z+t∈O)≤exp()P(Z+s∈O)(7)

    然后,對于式(6)中的兩項進行約束,對于第一項,結合式(4)和(7),有

    (t,s)∈Rγ′(t,s)P(Z+t∈O)dsdt≤

    exp()(t,s)∈Rγ′(t,s)P(Z+s∈O)dtds(8)

    對于第二項,結合式(5),有

    (t,s)Rγ(t,s)P(Z+t∈O)dsdt≤

    (t,s)Rγ(t,s)dsdt≤δ(9)

    最后,將式(8)(9)代入到式(6),有

    P(Euclid Math OneMAp(X)∈O|sia,θ)≤

    exp()(t,s)∈Rγ′(t,s)P(Z+s∈O)dtds+δ=

    exp()∫s P(F(X)=s|sib,θ)P(Z+s∈O)ds+δ=

    exp()P(F(X)+Z∈O|sib,θ)+δ=

    exp()P(Euclid Math OneMAp(X)∈O|sib,θ)+δ(10)

    證畢。

    定理2證明了RAWM是滿足屬性隱私要求的,因此可以基于RAWM定義RAWD敏感度,本文定價模型將其作為查詢敏感度。下面對RAWD敏感度進行正式定義。

    定義6 RAWD敏感度。對于敏感屬性下標i∈SC和查詢函數F,給定θ∈Θ和(sia,sib)∈SPi,用fa和fb分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布。給定近似概率δ,則查詢F在下標為i的敏感屬性上的RAWD敏感度為

    Wδi(F)=sup(sia,sib)∈SPi,θ∈ΘWδ(fa,fb)(11)

    RAWD敏感度相當于在全部專屬于敏感屬性下標i∈SC的組合條件下,其中的最大δ-RAWD,表示查詢F在該敏感屬性上的敏感程度。算法1給出了計算RAWD敏感度的具體步驟:對于目標屬性下標為k的統(tǒng)計查詢F,算法遍歷所有屬于i的秘密對(sia,sib)∈SPi和數據分布θ∈Θ,在每一個迭代中,首先計算目標列Xk的條件期望和條件方差,然后根據F的類型和表達式(已在2.1節(jié)中分析)確定F(Xk)的條件期望和條件方差,得到近似正態(tài)的查詢輸出分布對fa、 fb,最后計算fa、 fb之間的δ-RAWD,如果是已計算的最大值就保存下來。遍歷結束后,返回找到的最大δ-RAWD。

    算法1 RAWD敏感度

    輸入:數據量n;敏感屬性下標i∈SC;目標屬性下標為k的統(tǒng)計查詢F;屬性隱私框架(S,SP,Θ);近似概率δ。

    輸出:RAWD敏感度Wδi(F)。

    1 maxDist←0.0;

    2 for all (sia,sib)∈SPi,θ∈Θ: // 遍歷所有條件組合

    3 // 計算目標列的條件期望和條件方差

    4 μka←E(Xk|Φi=a);σ2ka←Var(Xk|Φi=a);

    5 μkb←E(Xk|Φi=b);σ2kb←Var(Xk|Φi=b);

    6 // 根據查詢類型和查詢表達式得到輸出分布對

    7 if F屬于求平均類查詢:

    8 μa←μka;σ2a←σ2ka/n;σ2a←σ2ka/n;σ2b←σ2kb/n

    9 else if F屬于求平均類查詢:

    10 μa←nμka;σ2a←nσ2ka;μb←nμkb;σ2b←nσ2kb;

    11 fa←N(μa,σ2a);fb←N(μb,σ2b);

    12 // 計算最大的δ-RAWD并保存

    13 dist←Wδ(fa,fb);

    14 if dist>maxDist:

    15 maxDist←dist;

    16 return maxDist

    接下來分析算法1的時間復雜度。記(sia,sib)∈SPi和θ∈Θ的組合數量為,由于算法13行計算δ-RAWD的時間復雜度為O(1),所以算法1的時間復雜度為O(),與數據量無關。如果基于WM或AWM,將算法13行處替換為計算∞-Wasserstein距離或計算δ-近似Wasserstein距離,那么整個算法的時間復雜度就會變?yōu)榕c數據量相關的O(n)。因此,相較于基于WM或AWM的敏感度算法,本文的RAWD敏感度算法更高效。

    2.3 補償方法

    數據提供方因為敏感屬性被揭露而期望得到補償,揭露的程度由2.2節(jié)計算的查詢敏感度和噪聲方差共同決定。查詢敏感度越高,說明統(tǒng)計查詢與敏感屬性的關聯(lián)越強。噪聲方差越大,說明查詢結果被擾動的程度越高,敏感屬性被保護得更好。由此可以得出,當敏感度越高,或者當噪聲方差越小,加噪統(tǒng)計查詢結果對敏感屬性的揭露程度越高。因此,對數據提供方的補償應該與查詢敏感度呈正相關,而和噪聲方差呈負相關,以實現更好的激勵效果。

    接下來從屬性隱私框架的角度,給出一個使用查詢敏感度和噪聲方差計算的屬性隱私損失上界,作為后續(xù)設計補償函數的理論依據。

    定義7 δ-屬性隱私損失。對于每個i∈SC,隨機化機制Euclid Math OneMAp在敏感屬性i上造成的δ-屬性隱私損失定義為

    εδi(Euclid Math OneMAp)=sup(sia,sib)∈SPi,θ∈Θ,ORange(Euclid Math OneMAp)logP(Euclid Math OneMAp(X)∈O|sia,θ)-δP(Euclid Math OneMAp(X)∈O|sib,θ)(12)

    其中:輸出集合O滿足P(Euclid Math OneMAp(X)∈O|sia,θ)≥δ。

    定理3 給定統(tǒng)計查詢F,噪聲方差v,敏感屬性下標i∈SC。對于隨機化機制Euclid Math OneMAp(X)=F(X)+Lap(v/2),定義7中Euclid Math OneMAp在i上造成的δ-屬性隱私損失被上界Wδi(F)/v/2約束:

    δi(Euclid Math OneMAp)≤Wδi(F)v/2(13)

    證明 從屬性隱私框架(S,SP,Θ)中,從秘密集合S和秘密對集合S中選取屬于i的子集,生成屬性隱私框架(Si,SPi,Θ)。給定一個隱私預算,由定理2和定義6可得,按如下方式對查詢結果F(X)添加噪聲:

    F(X)+LapWδi(F)(14)

    可以滿足(,δ)-屬性隱私,即對于任意秘密對(sa,sb)∈SP,任意數據分布θ∈Θ,都滿足

    P(Euclid Math OneMAp(D)=O|sa,θ)≤exp(),P(Euclid Math OneMAp(D)=O|sb,θ)+δ(15)

    當不給定,而是給定方差v時,由拉普拉斯分布性質可得

    =Wδi(F)v/2(16)

    將式(10)代入式(9),不等式變換后可得

    P(Euclid Math OneMAp(D)=O|sa,θ)-δP(Euclid Math OneMAp(D)=O|sb,θ)≤expWδi(F)v/2(17)

    式(10)對于任意(sia,sib)∈SPi和θ∈Θ都滿足,因此與結論等價。

    證畢。

    定理3給出了屬性隱私損失上界Wδi(F)/v/2,該量與查詢敏感度正相關,與噪聲方差負相關,符合本節(jié)開頭的分析,是一個能夠表征統(tǒng)計查詢服務對敏感屬性揭露程度的量,后面將基于該量設計補償函數。除了查詢敏感度和噪聲方差兩個因素以外,不同的敏感屬性的重要程度也不同,有的敏感屬性對數據提供方而言非常重要,而有的不太重要。對此,補償函數還需要引入可以由數據提供方根據需要自由設置的補償參數,以在不同重要程度的敏感屬性上取得不同的補償。

    數據提供方為數據集中的每個敏感屬性i∈SC設置兩個補償參數αi、βi。當一個統(tǒng)計查詢服務Q=(F,v)請求到來時,數據提供方因Q而在敏感屬性i上應得的補償ρi(Q)為

    ρi(Q)=αitanh(βiWδi(F)v/2)(18)

    數據管理方對于每個敏感屬性i∈SC,都按式(18)計算應得補償,然后對每個敏感屬性上的應得補償求和,得到總補償值ρ(Q),在該服務完成交易后,數據管理方就要按照該約定補償值,對數據提供方進行補償??傃a償值ρ(Q)公式為

    ρ(Q)=∑i∈SCρi(Q)(19)

    補償ρi(Q)的表達式中使用了一個tanh函數,是為了對補償值進行約束,確保補償函數的有界性。如果不進行約束,那么當方差v為零時,會計算出無窮大的補償值,即使限制v不為零,當v接近零時,也會計算出非常大的補償值,這些結果是不合理的。另外,ρi(Q)的表達式使用了兩個補償參數αi和βi,這兩個補償參數都反映了敏感屬性的重要程度,但具體作用不同:αi越大,數據提供方在敏感屬性i上應得的補償上限越大;βi越大,應得補償隨揭露程度提高而接近上限值αi的速率就越大。圖5展示了在不同補償參數組合下,補償函數ρi(Q)的圖像,其中橫軸為表征揭露程度的量Wδi(F)/v/2。

    2.4 定價方法

    2.3節(jié)描述了如何對數據提供方進行補償,以激勵數據提供方共享數據。每經歷一次統(tǒng)計查詢服務,就要對數據提供方進行一次補償,因此該補償是統(tǒng)計查詢服務的邊際成本之一。本文定價模型需要確保數據管理方在邊際成本之外可以獲得一定的收益,以對數據管理方同樣形成一定激勵。定價除了保證收益外,還必須滿足1.3節(jié)中介紹的無套利性。

    接下來,本節(jié)對統(tǒng)計查詢服務的無套利性質進行更細致的分析,證明幾個用于構造無套利定價函數的命題,然后針對多個可能的場景,應用這些命題設計出不同的無套利定價函數。

    考察一個在數據集X上計算的復雜統(tǒng)計函數F,根據2.1節(jié)中的假設,F可以被分解成最基本的求平均查詢和求和查詢。于是在X上的所有最基本最小的查詢可以看作是一個向量組(F′1,…,F′T),T>0,F可以表示為F=w1F′1+…+wTF′T形式的線性組合,其中wk∈Euclid ExtraaBp。換句話說,這個基本向量組在Euclid ExtraaBp上張成了一個向量空間V=span(F′1,…,F′T),F可以看作是V中的一個向量。例如,在醫(yī)院病例數據集上查詢A疾病或B疾病的比例,相當于查詢A疾病比例加上B疾病比例,這里的“A疾病比例”和“B疾病比例”就是最基本最小的查詢,是基本向量組里的2個向量。在數學中有一類名為半范數的函數,它們的性質與無套利定價函數所需要滿足的性質相近。一個定義在V上的半范數是滿足下列條件的實值函數g:V→Euclid ExtraaBp。

    a)次可加性:g(F1+F2)≤g(F1)+g(F2),F1,F2∈V;

    b)正齊次性:g(cF)=|c|g(F),F∈V和c∈Euclid ExtraaBp;

    c)非負性:g(F)≥0,F∈V。

    定理4 定義6中的RAWD敏感度Wδi(F)是一個定義在統(tǒng)計查詢向量空間V上的半范數。

    證明 要證明Wδi(F)是一個半范數,需要分別證明非負性,正齊次性,次可加性。

    對于非負性,明顯可以由定義6中Wδi(F)的表達式得到。

    對于正齊次性作以下表示:對任意(sia,sib)∈SP和θ∈Θ,用N(μa,σ2a)、N(μb,σ2b)、N(cμa,c2σ2a)、N(cμb,c2σ2b)分別表示F(X)|sia,θ、F(X)|sib,θ、cF(X)|sia,θ、cF(X)|sib,θ近似服從的正態(tài)分布。那么正齊次性可由期望和方差的性質推出:

    Wδi(cF)=sup(sia,sib)∈SPi,θ∈Θ{|cμa-cμb|+d|c|σa+d|c|σb}=

    |c|×sup(sia,sib)∈SP,θ∈Θ{|μa-μb|+dσa+dσb}=

    |c|×Wδi(F)(20)

    對于次可加性作以下表示:對任意(sia,sib)∈SP和θ∈Θ,用N(μ1a,σ21a)、N(μ1b,σ21b)、N(μ2a,σ22a)、N(μ2b,σ22b)、N(μ1a+μ2a,σ21a+σ22a)、N(μ1b+μ2b,σ21b+σ22b)分別表示F1(X)|sia,θ、F1(X)|sib,θ、F2(X)|sia,θ、F2(X)|sib,θ、F1(X)+F2(X)|sia,θ、F1(X)+F2(X)|sib,θ近似服從的正態(tài)分布,可進行如下推導:

    Wδi(F1+F2)=

    sup(sia,sib)∈SP,θ∈Θ{|(μ1a+μ2a)-(μ1b+μ2b)|+dσ21a+σ22a+

    dσ21b+σ22b}=sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b+μ2a-μ2b|+dσ21a+σ22a+

    dσ21b+σ22b}≤

    sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b|+|μ2a-μ2b|+dσ1a+dσ2a+

    dσ1b+dσ2b}≤sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b|+dσ1a+dσ1b}+

    sup(sia,sib)∈SP,θ∈Θ{|μ2a-μ2b|+dσ2a+dσ2b}=

    Wδi(F1)+Wδi(F2)(21)

    其中:第一個等式由統(tǒng)計查詢函數的可加性得到;第二個等式由期望和方差的性質得到;第一個不等式由絕對值和平方根的次可加性得到,第二個不等式由上確界(sup)的性質得到。

    證畢。

    定理5 如果g是一個半范數,那么定價函數g2(F)/v滿足無套利性。

    證明 根據定義3描述的查詢確定性,下面的查詢確定性關系成立:{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(F,v),當且僅當存在c1,…,ct使得c1F1+…+ctFt=F和c21v1+…+c2tvt≤v。對于一個查詢確定性關系{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(F,v),可推出

    ∑tk=1π(Fk,vk)=∑kg2(Fk)vk=(∑kg2(Fk)vk)(∑kc2kvk)∑kc2kvk≥

    (∑k|ck|g(Fk))2∑kc2kvk=(∑kg(ckFk))2∑kc2kvk≥

    g2(F)v=π(F,v)(22)

    其中:第一個不等式由柯西不等式得到,第二個不等式由半范數性質得到。

    證畢。

    定理4證明了本文RAWD敏感度是一個半范數,可以用于設計無套利定價函數。定理5給出了無套利定價函數的一個最簡單的形式g2(F)/v。接下來,定理6將展示如何利用滿足非遞減性和次可加性的函數合成更多無套利定價函數。然后,通過應用定理6,推論1將給出一些真實滿足非遞減性和次可加性的函數。對于任意x,y∈Euclid ExtraaBpt,函數h:(Euclid ExtraaBp+)t→Euclid ExtraaBp+滿足非遞減性,如果x≤y蘊涵h(huán)(x)≤h(y);h滿足次可加性,如果h(x+y)≤h(x)+h(y)。

    定理6 給定一系列無套利定價函數π1,…πs,s≥1。讓h:(Euclid ExtraaBp+)t→Euclid ExtraaBp+表示一個滿足非遞減性和次可加性的函數,那么使用h合成的定價函數π(Q)=h(π1(Q),…,πs(Q))也是無套利的。

    證明 考慮查詢確定性關系{Q1,…,Qt}→Q,其中t≥1,可以推出

    π(Q)=h(π1(Q),…,πs(Q))≤h(∑tk=1π1(Qk),…,∑tk=1πs(Qk))≤

    ∑tk=1h(π1(Qk),…,πs(Qk))=∑tk=1π(Qk)(23)

    其中:第一個不等式由π1,…,πs的無套利性和h的非遞減性得到,第二個不等式由h的次可加性得到。

    證畢。

    推論1 給定一系列無套利定價函數π1,…,πt,t≥1。那么下面列出的定價函數也是無套利的。

    a)線性組合:c1π1(Q)+…+ctπt(Q),c1,…,ct≥0;

    b)冪函數:πc1(Q),0<c≤1;

    c)有界函數:tanh(π1(Q)),sigmoid(π1(Q)),arctan(π1(Q)),π1(Q)π21(Q)+1。

    證明 可以驗證上面列出的函數都滿足非遞減性和次可加性。根據定理6,可以推出上述結論。證畢。

    本文定價模型采用成本加成定價法,因為補償是邊際成本之一,所以定價函數需要依賴2.3節(jié)中的補償函數ρ(Q)。定理7證明了補償函數ρ(Q)滿足無套利性,可以用于設計更多無套利定價函數。

    定理7 補償函數:

    ρ(Q)=∑i∈SCαitanhβiWδi(F)v/2(24)

    滿足無套利性。

    證明 根據定理4和5,可得到(Wδi(F))2/v滿足無套利性。然后,根據推論1,可以按順序依次證明下列定價函數滿足無套利性:

    Wδi(F)v/2 (使用線性組合和冪函數)

    tanhβiWδi(F)v/2 (使用線性組合和tanh函數)

    ∑i∈SCαitanhβiWδi(F)v/2 (使用線性組合)(25)

    下面針對幾個不同的現實場景,應用本節(jié)給出的幾個命題設計無套利定價函數。首先考慮一個最基本的場景,統(tǒng)計查詢結果是一維的,并且補償是唯一的邊際成本因素,那么可以在補償ρ(Q)之上乘以一個不小于1的系數來確保收益。用η表示一個非負的收益率,那么該場景下的定價函數為

    π(Q)=(1+η)ρ(Q)=

    (1+η)∑i∈SCαitanhβiWδi(F)v/2(26)

    由推論1和定理7,該定價函數相當于在無套利的補償函數上復合了線性組合函數,所以也滿足無套利性。

    接著考慮查詢結果多維的場景,例如數據需求方請求的是一個完整的直方圖查詢,直方圖內包括了多個取值的計數,該直方圖查詢可以表示為一個查詢包F={F1,…,Ft},該次統(tǒng)計查詢服務可以看作t個基本統(tǒng)計查詢服務的集合Q={(F1,v),…,(Ft,v)},那么此時的邊際成本就是t個基本服務的補償之和,該場景下的定價函數為

    π(Q)=(1+η)∑tk=1ρ(Fk,v)=

    (1+η)∑tk=1∑i∈SCαitanhβiWδi(Fk)v/2(27)

    由推論1和定理7,該定價函數也相當于在無套利的補償函數上復合了線性組合函數,所以也滿足無套利性。

    然后,考慮補償是唯一邊際成本,但有其他統(tǒng)計查詢價值因素(如精確度、一致性等)的場景,用∑sk=1wkfactork(Q)表示加權綜合了其他價值因素的無套利定價函數,用c∈(0,1]表示冪函數參數(冪函數用于價格折扣),該場景下定價函數為

    π(Q)=(1+η)ρ(Q)+(∑sk=1wkfactork(Q))c(28)

    由推論1和定理7,該定價函數相當于在無套利定價函數上進一步復合冪函數和線性組合函數,所以也滿足無套利性。

    最后,考慮有多個邊際成本因素的場景,將其他滿足無套利性的邊際成本函數表示為cost1(Q),…,costs(Q),該場景下定價函數為

    π(Q)=(1+η)(ρ(Q)+∑sk=1costk(Q))(29)

    由推論1和定理7,該定價函數相當于在無套利定價函數上多次復合了線性組合函數,所以也滿足無套利性?,F實中更常見的一種情況是,數據管理方根據生產中每一次查詢的平均消耗,設置一個固定邊際成本,該情況是上述多邊際成本場景的特殊場景,即只有一個取值固定的cost1(Q)。固定取值成本函數是無套利的,因此定價函數也是無套利的。

    3 實驗結果與分析

    a)實驗環(huán)境。定價模型的實現代碼使用Python 3.8.13編寫,其中計算敏感度的部分使用Java 8編寫。所有的實驗都運行在一臺擁有2.8 GHz Intel CoreTM i7-7700HQ處理器和16 GB內存的物理機上。

    b)數據集和分布建模。實驗采用真實的UCI公開數據集Adult[29]。該數據集包含了來自不同國家的48 842條人口普查數據,擁有年齡、婚姻狀態(tài)和是否高收入等數據列。實驗假設二值型和種類型數據列上的屬性是服從伯努利分布的,而數值型數據列上的屬性服從連續(xù)分布(如正態(tài)分布)。接著,實驗使用一個多元正態(tài)分布對這些分布的均值參數關聯(lián)進行建模。為了學習該多元正態(tài)分布,將數據集按照不同的國家劃分成多個子集,求出每個子集的均值參數,然后將每個子集作為一個樣本對多元正態(tài)分布進行估計。在該前提下,算法1復雜度中的取值為1。

    c)查詢服務和屬性設置。數據市場各方約定近似概率為δ=0.001。數據提供方設置了兩個敏感屬性:一是收入超過50 k的人口比例,二是在民營企業(yè)工作的人口比例。數據管理方提供數據提供方允許的各類統(tǒng)計查詢。表1列出了不同數據列上提供的基本統(tǒng)計查詢類型,在其之上有更多衍生的統(tǒng)計查詢,不在表格中一一列出。

    3.1 效率與效用平衡

    本節(jié)評估在2.2節(jié)中基于RAWM計算的RAWD敏感度,從效率和效用兩個角度評估。效率即計算時間,而效用是隨機化機制向查詢中添加噪聲后的查詢準確程度,在隨機化機制滿足隱私框架要求的前提下,隨機化機制的效用越高,說明添加噪聲的大小對查詢敏感程度衡量得越緊,效果更好,也意味著基于該隨機化機制計算的查詢敏感度效果更好。評估效用采用的指標是1-F(X)-Euclid Math OneMAp(X)F(X)+Euclid Math OneMAp(X)[6],其中,F(X)表示真實查詢結果,Euclid Math OneMAp(X)表示經隨機化機制擾動后的查詢結果。

    實驗對比的方法有AWM[28]、WM[27]、EVM[28]、MQM[26]。其中主要對比的方法是AWM,相較于AWM,RAWM(RAWD敏感度)計算時間大大減少,但是添加了更多的噪聲,因此會使查詢服務的效用略有下降,也就是說RAWD敏感度會比基于AWM的敏感度效果略差。實驗在不同的參數配置下模擬了約1 500 000個查詢服務,記錄下每個服務效用和定價時間,繪制結果與各參數之間的關系圖并觀察。在參數中,數據量n范圍為{103,104,105,106,107,108},隱私預算范圍為{10-6,10-5,10-4,10-3,10-2,10-1,100,101,102,103},近似概率δ范圍為{10-6,10-5,10-4,10-3,10-2}。AWM計算定義2中的δ-近似Wasserstein距離意味著需要找到最優(yōu)的聯(lián)合分布γ和支撐集子集R組合,但是,目前沒有可用的解析解或算法能尋找出該最優(yōu)組合[28]。雖然AWM難以準確計算,但是其計算時間不低于WM,其效用在EVM和WM之間[28]。因此,實驗計算WM和EVM作為AWM的時間和效用邊界,并在圖6中將WM的時間作為AWM的時間下界,在圖7、8中用一片區(qū)域表示AWM的效用范圍,使用最壞情況下的效用差距(即AWM效用上界和RAWM效用的差距)作為本文RAWM的效用代價。圖6展示了敏感度計算時間與數據量n之間的關系。圖7展示了當n=103時效用與隱私預算之間的關系。圖8展示了當=10-1時效用與數據量n之間的關系。圖9展示了當=10-1時效用與近似概率δ之間的關系。

    從圖6可以得出,相較于基于AWM或WM的方法,本文RAWD敏感度將時間復雜度從Ω(n)降低到了O(1)。基于EVM的方法也是O(1)復雜度,但是EVM無法滿足屬性隱私要求,缺乏合理性。基于MQM的也是O(1)復雜度。

    從圖7可以觀察到,當n=103時,在=10-1處,不同方法的效用差距是最明顯的,實驗中當n取其他值時,同樣也是在=10-1處差距最大(由于篇幅限制不全部展示)。因此,圖8和9都在固定=10-1的基礎上對比效用。圖7的=10-1處對應了圖8的n=103處。

    從圖8可以得出,MQM效用太低,RAWD效用低于EVM、AWM、WM三個方法。然而隨著數據量n變大, EVM、AWM、WM三個方法與RAWD之間的效用差距越來越小,特別地,當n=108時,RAWD和AWM的效用差距不超過0.52%。說明在大數據量下,RAWD也能取得很好的效用。

    從圖9可以得出,RAWD的效用會隨著近似概率δ的增加而略微增加,影響不大,因此本文定價模型對δ取固定值。

    綜上,EVM缺乏合理性,MQM時間復雜度也為O(1)但效用過差,因此都不如本文的RAWD敏感度。對于AWM和WM,RAWD效用略差但大大減小了計算時間,因為多數情況下數據量n是一個比較大的值,所以本文RAWD敏感度將定價模型中查詢敏感度的計算時間復雜度從Ω(n)降低到了O(1),僅僅付出了很低的效用代價。

    3.2 細粒度補償

    本節(jié)評估在2.3節(jié)中設計的補償函數。評估方式為在一個數據列上模擬同方差的多個服務,觀察補償值分布是否分散,是否能夠區(qū)分不同服務對敏感屬性的不同揭露程度。選取的數據列包括age、education-num、hours-per-week、marital-status。服務方差統(tǒng)一為0.01。兩個敏感屬性的補償參數都為αi=5,βi=1,所以補償的取值范圍為[0,10]。在不同數據列上模擬統(tǒng)計查詢服務的補償分布如圖10所示。

    觀察圖10可以發(fā)現,在每個數據列上模擬統(tǒng)計查詢服務的補償分布在區(qū)間的不同部分中,可以區(qū)分一個數據列上統(tǒng)計查詢服務對敏感屬性的不同揭露程度,并且不同數據列上的總體補償水平也有不同,例如education-num列上的補償比age列上的補償總體要高,這是因為education-num列和敏感屬性(收入超過50 k的人口比例,在民營企業(yè)工作的人口比例)之間的關聯(lián)更大,相應地,education-num列上的查詢比age列上的查詢對敏感屬性揭露程度更高。以上分析說明,本文設計的補償函數能夠對數據提供方進行細粒度補償,合理反映統(tǒng)計查詢服務對敏感屬性的揭露程度,形成更好的激勵效果。

    3.3 無套利性

    本節(jié)評估在2.4節(jié)中設計的無套利定價函數。評估無套利性使用的指標為套利攻擊成本∑tk=1π(Qk)和目標查詢價格π(Q)的累積比例[6]。當攻擊成本和目標價格的比率小于1時,稱為一次成功的套利攻擊。累積比例曲線上的一個點代表攻擊成本和目標價格比例小于該點的套利攻擊比例,也就是說,累積比例曲線在點1處的值代表了成功套利攻擊的比例。實驗模擬了兩種套利攻擊,分別為查詢攻擊和套利攻擊。查詢套利攻擊可表示為{(F1,v/t),…,(Ft,v/t)}Euclid ExtraaAp(F,v);方差套利攻擊可表示為{(F,tv)1,…,(F,tv)t}Euclid ExtraaAp(F,v)。實驗模擬了約40 000次套利攻擊,查詢套利攻擊的參數t取值范圍為{2,3,4,5},方差套利攻擊的參數t取值范圍為{2,10,25,50}。圖11展示了查詢套利攻擊的累積比例曲線。圖12展示了方差套利攻擊的累積比例曲線。

    觀察圖11、12可以發(fā)現,累積比例曲線在成本比例為1時都為0%。這說明沒有任何攻擊的成本比例小于1,所有的套利攻擊都沒有成功,驗證了定價函數的無套利性。此外,隨著參數t的增加,累積比例曲線呈現右移的趨勢,這與直覺一致,因為參數t也代表了套利攻擊的查詢個數,查詢個數更多會導致攻擊成本比例更高。

    4 結束語

    本文針對現有統(tǒng)計查詢定價模型沒有考慮查詢結果揭露數據集敏感屬性的問題,提出了基于屬性隱私的統(tǒng)計查詢定價模型。模型提出了RAWM,基于RAWM提出RAWD敏感度作為查詢敏感度,可以在常數時間復雜度內計算,使用查詢敏感度、噪聲方差、補償參數綜合地計算補償,針對多個場景,在補償之上使用成本加成定價法設計了多個無套利定價函數。在公開數據集上進行了實驗,實驗結果表明,模型中的查詢敏感度算法很好地實現了效用和效率的平衡,模型能夠提供細粒度補償以更好地激勵共享,模型設計的定價函數滿足無套利性。

    但是,本文定價模型仍有不足。例如只能對統(tǒng)計查詢服務進行定價,無法衡量機器學習服務對數據集敏感屬性的揭露;只能將數據集的分布參數視為敏感屬性,沒有考慮當敏感屬性是數據集的復雜特征表達式時該如何定價。

    參考文獻:

    [1]江東, 袁野, 張小偉, 等. 數據定價與交易研究綜述[J]. 軟件學報, 2023, 34(3): 1396-1424. (Jiang Dong, Yuan Ye, Zhang Xiao-wei,et al. A survey on data pricing and trading research[J]. Journal of Software, 2023, 34(3): 1396-1424.)

    [2]DAWEX. Global big data exchange[EB/OL]. (2024-04-03). https://www.gzdex.com.cn/.

    [3]DAWEX. Sell, buy and share data[EB/OL]. (2024-04-03). https://www. dawex.com/en/.

    [4]Zhang Mengxiao, Beltrán F, Liu Jiamou. A survey of data pricing for data marketplaces[J]. IEEE Trans on Big Data, 2023, 9(4): 1038-1056.

    [5]Koutris P, Upadhyaya P, Balazinska M,et al. query-based data pricing[J]. Journal of the ACM, 2015, 62(5): 1-44.

    [6]Niu Chaoyue, Zheng Zhenzhe, Wu Fan,et al. ERATO: trading noisy aggregate statistics over private correlated data[J]. IEEE Trans on Knowledge & Data Engineering, 2021, 33(3): 975-990.

    [7]He Zaobo, Cai Zhipeng. Trading aggregate statistics over private Internet of Things data[J]. IEEE Trans on Computers, 2024, 73(2): 394-407.

    [8]陳思瑩, 張丹, 丁小歐, 等. 基于數據質量的公平數據定價[J]. 大數據, 2024, 10(2): 54-67. (Chen Siying, Zhang Dan, Ding Xiaoou,et al. Fair data pricing based on data quality[J]. Big Data Research, 2024, 10(2): 54-67.)

    [9]Yu Mingkai, Wang Jianxiao, Yan Jie,et al. Pricing information in smart grids: a quality-based data valuation paradigm[J]. IEEE Trans on Smart Grid, 2022, 13(5): 3735-3747.

    [10]劉珂. 基于Shapley值的冷鏈物流檢測信息特征組合定價研究[D]. 重慶: 重慶郵電大學, 2022. (Liu Ke. Shapley value-based pricing for feature combination of detection information in cold chain logistics[D]. Chongqing: Chongqing University of Posts and Telecommunications, 2022.)

    [11]Wang Tianhao, Rausch J, Zhang Ce,et al. A principled approach to data valuation for federated learning[M]// Yang Qiang, Fan Lixin, Yu Han. Federated learning: privacy and incentive. Cham: Springer International Publishing, 2020: 153-167.

    [12]Xu Anran, Zheng Zhenzhe, Li Qinya,et al. VAP: online data valuation and pricing for machine learning models in mobile health[J]. IEEE Trans on Mobile Computing, 2024, 23(5): 5966-5983.

    [13]盧玉, 王靜宇, 劉立新, 等. 拍賣機制驅動的數據激勵共享方案[J]. 計算機科學與探索,2024,18(8):2203-2220. (Lu Yu, Wang Jingyu, Liu Lixin,et al. Auction mechanism driven data incentive sharing solution[J]. Journal of Frontiers of Computer Science and Technology, 2024,18(8):2203-2220.)

    [14]涂輝招, 劉建泉, 遇澤洋, 等. 基于改進型Stackelberg博弈的自動駕駛測試數據定價模型[J]. 同濟大學學報: 自然科學版, 2023, 51(11): 1735-1744. (Tu Huizhao, Liu Jianquan, Yu Ze-yang,et al. Pricing model of autonomous vehicle testing data based on evolved Stackelberg game[J]. Journal of Tongji University: Natural Science, 2023, 51(11): 1735-1744.)

    [15]Wang Jiandong, Liu Hao, Dong Xuewen,et al. Personalized location privacy trading in double auction for mobile crowdsensing[J]. IEEE Internet of Things Journal, 2022, 10(10): 8971-8983.

    [16]Li Chuang, He Aoli, Wen Yanhua,et al. Optimal trading mechanism based on differential privacy protection and Stackelberg game in big data market[J]. IEEE Trans on Services Computing, 2023, 16(5): 3550-3563.

    [17]巫朝霞, 唐靖蕾, 苗志偉. 云環(huán)境下支持多授權機構的醫(yī)療數據安全共享方案[J]. 計算機應用研究, 2023, 40(12): 3800-3804. (Wu Chaoxia, Tang Jinglei, Miao Zhiwei. Medical data secure sharing scheme supporting multi-authority in cloud environment[J]. Application Research of Computers, 2023, 40(12): 3800-3804.)

    [18]Li Chao, Li D Y, Miklau G,et al. A theory of pricing private data[J]. Communications of the ACM, 2017, 60(12): 79-86.

    [19]Shen Yuncheng, Guo Bing, Shen Yan,et al. Personal big data pricing method based on differential privacy[J]. Computers & Security, 2022, 113: 102529.

    [20]Cai Hui, Yang Yuanyuan, Fan Weibei,et al. Towards correlated data trading for high-dimensional private data[J]. IEEE Trans on Parallel and Distributed Systems, 2023, 34(3): 1047-1059.

    [21]董愷, 蔣馳昊, 李想, 等. 基于代理訓練集的屬性推理攻擊防御方法[J]. 計算機學報, 2024, 47(4): 907-923. (Dong Kai, Jiang Chihao, Li Xiang,et al. Defending against property inference attacks based on agent training datasets[J]. Chinese Journal of Compu-ters, 2024, 47(4): 907-923.)

    [22]Manousis A, Shah H, Milner H,et al. The shape of view: an alert system for video viewership anomalies[C]// Proc of the 21st ACM Internet Measurement Conference. New York: ACM Press, 2021: 245-260.

    [23]Ateniese G, Mancini L V, Spognardi A,et al. Hacking smart machines with smarter ones: how to extract meaningful data from machine learning classifiers[J]. International Journal of Security and Networks, 2015, 10(3): 137-150.

    [24]Dwork C, Roth A. The algorithmic foundations of differential privacy[J]. Foundations and Trends in Theoretical Computer Science, 2014, 9(3-4): 211-407.

    [25]Kifer D, Machanavajjhala A. Pufferfish: a framework for mathematical privacy definitions[J]. ACM Trans on Database Systems, 2014, 39(1): 1-36.

    [26]Zhang Wanrong, Ohrimenko O, Cummings R. Attribute privacy: framework and mechanisms[C]// Proc of ACM Conference on Fairness, Accountability, and Transparency. New York: ACM Press, 2022: 757-766.

    [27]Song Shuang, Wang Yizhen, Chaudhuri K. Pufferfish privacy mechanisms for correlated data[C]// Proc of ACM International Conference on Management of Data. New York: ACM Press, 2017: 1291-1306.

    [28]Chen M, Ohrimenko O. Protecting global properties of datasets with distribution privacy mechanisms[C]// Proc of the 26th International Conference on Artificial Intelligence and Statistics. [S.l.]: PMLR, 2023: 7472-7491.

    [29]Becker B, Kohavi R. Adult[DB/OL]. (1996-04-30). https://archive.ics.uci.edu/dataset/2/adult.

    亚洲美女搞黄在线观看| 亚洲精品一区蜜桃| 91aial.com中文字幕在线观看| 少妇猛男粗大的猛烈进出视频| www.av在线官网国产| 大香蕉久久成人网| 下体分泌物呈黄色| 色婷婷av一区二区三区视频| 大话2 男鬼变身卡| 午夜福利一区二区在线看| 高清欧美精品videossex| 交换朋友夫妻互换小说| 国产精品蜜桃在线观看| 亚洲伊人久久精品综合| 久久毛片免费看一区二区三区| 欧美精品一区二区免费开放| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | √禁漫天堂资源中文www| 免费女性裸体啪啪无遮挡网站| 午夜福利乱码中文字幕| 亚洲国产精品国产精品| 日韩一区二区三区影片| 亚洲欧美精品综合一区二区三区 | 高清在线视频一区二区三区| 大陆偷拍与自拍| 国产精品香港三级国产av潘金莲 | 久久久精品94久久精品| 又粗又硬又长又爽又黄的视频| 亚洲精品乱久久久久久| 日本wwww免费看| 欧美bdsm另类| 波多野结衣一区麻豆| 国产精品秋霞免费鲁丝片| 日韩三级伦理在线观看| 欧美日韩亚洲国产一区二区在线观看 | 一级毛片电影观看| 亚洲国产欧美在线一区| 国产亚洲欧美精品永久| 日本wwww免费看| 97在线视频观看| 啦啦啦在线免费观看视频4| 人妻少妇偷人精品九色| 天天躁夜夜躁狠狠躁躁| 精品一品国产午夜福利视频| 国产一区二区三区综合在线观看| 一级,二级,三级黄色视频| 久久久久久久久久人人人人人人| 你懂的网址亚洲精品在线观看| 成人毛片60女人毛片免费| 十八禁网站网址无遮挡| 一区二区日韩欧美中文字幕| 考比视频在线观看| 97在线人人人人妻| 久久久久久久国产电影| 麻豆乱淫一区二区| 人妻少妇偷人精品九色| www日本在线高清视频| 丰满少妇做爰视频| 一区二区三区四区激情视频| 国产高清国产精品国产三级| 亚洲国产精品一区三区| 精品少妇久久久久久888优播| 国产亚洲最大av| 97在线视频观看| 久久久久人妻精品一区果冻| 免费av中文字幕在线| 国产片内射在线| 久久久久人妻精品一区果冻| 一本—道久久a久久精品蜜桃钙片| 欧美日韩一级在线毛片| 人成视频在线观看免费观看| av.在线天堂| 国产成人精品久久二区二区91 | 国语对白做爰xxxⅹ性视频网站| 黄片播放在线免费| 日日撸夜夜添| 满18在线观看网站| 美女脱内裤让男人舔精品视频| 国产精品.久久久| 91成人精品电影| 少妇人妻精品综合一区二区| 性色avwww在线观看| 黑人猛操日本美女一级片| 国产精品人妻久久久影院| 亚洲av电影在线观看一区二区三区| 欧美日韩视频高清一区二区三区二| 国产成人精品婷婷| av天堂久久9| 亚洲人成电影观看| 日韩av在线免费看完整版不卡| 国产av精品麻豆| 美女大奶头黄色视频| 欧美bdsm另类| 国产视频首页在线观看| 大片免费播放器 马上看| 亚洲色图综合在线观看| 午夜免费鲁丝| 亚洲欧洲国产日韩| 国产老妇伦熟女老妇高清| 久久久国产一区二区| 日本av手机在线免费观看| 国产人伦9x9x在线观看 | 日本猛色少妇xxxxx猛交久久| 午夜av观看不卡| 亚洲色图 男人天堂 中文字幕| 中文欧美无线码| 天天躁夜夜躁狠狠久久av| 男女啪啪激烈高潮av片| 免费观看av网站的网址| 午夜日本视频在线| 超色免费av| 国产精品成人在线| 中文字幕另类日韩欧美亚洲嫩草| videosex国产| 电影成人av| 国产有黄有色有爽视频| 深夜精品福利| 天堂中文最新版在线下载| 熟女电影av网| 亚洲成av片中文字幕在线观看 | 大香蕉久久网| 久久这里有精品视频免费| 日韩电影二区| 少妇被粗大的猛进出69影院| 成人午夜精彩视频在线观看| 日韩在线高清观看一区二区三区| 国产色婷婷99| 在线观看一区二区三区激情| 免费黄网站久久成人精品| 黄网站色视频无遮挡免费观看| 久久人人爽人人片av| 婷婷色av中文字幕| 亚洲四区av| 精品卡一卡二卡四卡免费| 人人澡人人妻人| 国产视频首页在线观看| 黑人欧美特级aaaaaa片| 成人影院久久| 男女国产视频网站| 夫妻午夜视频| 精品午夜福利在线看| 亚洲熟女精品中文字幕| 一区在线观看完整版| 亚洲av.av天堂| 成人国产麻豆网| 国产欧美日韩综合在线一区二区| 美女主播在线视频| 十分钟在线观看高清视频www| 国产极品粉嫩免费观看在线| 国产熟女午夜一区二区三区| 日韩伦理黄色片| 色婷婷av一区二区三区视频| 成人手机av| 视频区图区小说| 欧美少妇被猛烈插入视频| 亚洲欧洲国产日韩| 亚洲伊人久久精品综合| 中文乱码字字幕精品一区二区三区| 亚洲欧洲日产国产| 久久久精品94久久精品| 黑人欧美特级aaaaaa片| 国产日韩一区二区三区精品不卡| 多毛熟女@视频| 国产片内射在线| 国精品久久久久久国模美| 免费av中文字幕在线| 中文欧美无线码| 日韩av不卡免费在线播放| 国产精品免费视频内射| 久久久久人妻精品一区果冻| 久久99热这里只频精品6学生| 天天躁夜夜躁狠狠躁躁| 国产免费一区二区三区四区乱码| 一区二区三区乱码不卡18| 国产精品熟女久久久久浪| 侵犯人妻中文字幕一二三四区| 国产精品熟女久久久久浪| 麻豆精品久久久久久蜜桃| 亚洲一区中文字幕在线| 爱豆传媒免费全集在线观看| 欧美亚洲日本最大视频资源| 国产女主播在线喷水免费视频网站| 天天操日日干夜夜撸| 九九爱精品视频在线观看| 久久久久网色| 97精品久久久久久久久久精品| 最近的中文字幕免费完整| 妹子高潮喷水视频| 人妻系列 视频| 亚洲精品第二区| 人妻系列 视频| 丝瓜视频免费看黄片| 啦啦啦啦在线视频资源| 欧美 日韩 精品 国产| 涩涩av久久男人的天堂| 亚洲精品久久成人aⅴ小说| 久久精品aⅴ一区二区三区四区 | 秋霞在线观看毛片| 婷婷成人精品国产| 午夜精品国产一区二区电影| 久久精品国产a三级三级三级| 久久精品国产a三级三级三级| 欧美变态另类bdsm刘玥| 国产淫语在线视频| 大香蕉久久网| 亚洲精品美女久久av网站| 在线精品无人区一区二区三| 一级毛片黄色毛片免费观看视频| 最近最新中文字幕大全免费视频 | 制服人妻中文乱码| 91精品伊人久久大香线蕉| 亚洲婷婷狠狠爱综合网| 婷婷色av中文字幕| 国产又爽黄色视频| 天天影视国产精品| 久久亚洲国产成人精品v| 黑丝袜美女国产一区| 大话2 男鬼变身卡| 满18在线观看网站| 欧美日韩视频精品一区| 午夜久久久在线观看| 国产黄色视频一区二区在线观看| 晚上一个人看的免费电影| 亚洲少妇的诱惑av| 黄片小视频在线播放| 国产高清不卡午夜福利| 久久久国产精品麻豆| 人成视频在线观看免费观看| 亚洲国产av影院在线观看| 国产精品人妻久久久影院| 亚洲,一卡二卡三卡| 国产精品免费视频内射| 久久久久久人人人人人| 十八禁网站网址无遮挡| 亚洲精品自拍成人| 大片电影免费在线观看免费| 搡老乐熟女国产| 亚洲国产最新在线播放| 精品国产超薄肉色丝袜足j| 丁香六月天网| 宅男免费午夜| 日韩一本色道免费dvd| 日韩制服骚丝袜av| 国产一区亚洲一区在线观看| 免费观看无遮挡的男女| 国产片特级美女逼逼视频| 999久久久国产精品视频| 日韩一区二区视频免费看| 老司机影院毛片| 最近中文字幕2019免费版| 日韩不卡一区二区三区视频在线| 高清不卡的av网站| 如何舔出高潮| 国产色婷婷99| 尾随美女入室| 高清黄色对白视频在线免费看| 99热国产这里只有精品6| 日韩成人av中文字幕在线观看| 精品国产超薄肉色丝袜足j| 亚洲第一青青草原| 亚洲精品久久久久久婷婷小说| 国产一区亚洲一区在线观看| 人人澡人人妻人| 又黄又粗又硬又大视频| 亚洲三区欧美一区| 1024香蕉在线观看| 视频在线观看一区二区三区| 免费久久久久久久精品成人欧美视频| 亚洲,一卡二卡三卡| 国产一级毛片在线| 女人高潮潮喷娇喘18禁视频| 欧美激情高清一区二区三区 | 最新的欧美精品一区二区| 午夜免费鲁丝| 中文字幕亚洲精品专区| 高清视频免费观看一区二区| 看非洲黑人一级黄片| 欧美日韩国产mv在线观看视频| 日韩制服丝袜自拍偷拍| 免费高清在线观看日韩| 国产精品欧美亚洲77777| 老司机影院毛片| 涩涩av久久男人的天堂| 亚洲男人天堂网一区| 国产精品成人在线| 亚洲国产精品一区三区| 精品少妇一区二区三区视频日本电影 | 国产精品久久久久久精品古装| 女的被弄到高潮叫床怎么办| 欧美激情 高清一区二区三区| av.在线天堂| 成人国产麻豆网| 久久热在线av| 水蜜桃什么品种好| 国产色婷婷99| 成人毛片60女人毛片免费| 一边亲一边摸免费视频| 王馨瑶露胸无遮挡在线观看| 亚洲精品在线美女| 亚洲精品久久成人aⅴ小说| 国产女主播在线喷水免费视频网站| 中文字幕色久视频| 欧美日韩国产mv在线观看视频| 婷婷色av中文字幕| 国产白丝娇喘喷水9色精品| 91aial.com中文字幕在线观看| 国产激情久久老熟女| av电影中文网址| 国产亚洲精品第一综合不卡| 久久女婷五月综合色啪小说| 日本猛色少妇xxxxx猛交久久| 免费日韩欧美在线观看| 久久人人97超碰香蕉20202| kizo精华| 精品福利永久在线观看| 亚洲综合色网址| 亚洲欧美清纯卡通| 伊人久久大香线蕉亚洲五| 老司机影院毛片| 99热网站在线观看| 啦啦啦视频在线资源免费观看| 18禁动态无遮挡网站| 成人亚洲欧美一区二区av| 久久99精品国语久久久| 免费av中文字幕在线| 国产 精品1| 一区二区日韩欧美中文字幕| 电影成人av| 久久久久视频综合| 精品卡一卡二卡四卡免费| 晚上一个人看的免费电影| 欧美日本中文国产一区发布| 汤姆久久久久久久影院中文字幕| 精品一区在线观看国产| 九色亚洲精品在线播放| 精品亚洲成国产av| 免费观看在线日韩| 亚洲av.av天堂| 亚洲精品国产av成人精品| 新久久久久国产一级毛片| 美女脱内裤让男人舔精品视频| 99久久中文字幕三级久久日本| 国产日韩欧美视频二区| 成人免费观看视频高清| 日本vs欧美在线观看视频| 国产精品女同一区二区软件| 侵犯人妻中文字幕一二三四区| 精品酒店卫生间| 日韩伦理黄色片| 免费观看性生交大片5| 亚洲图色成人| 美女脱内裤让男人舔精品视频| 欧美亚洲 丝袜 人妻 在线| 激情五月婷婷亚洲| 老司机亚洲免费影院| 女人高潮潮喷娇喘18禁视频| 亚洲成av片中文字幕在线观看 | 男人操女人黄网站| 久久人人爽av亚洲精品天堂| 国产精品一二三区在线看| 亚洲成人av在线免费| av福利片在线| 久久午夜福利片| 久久人人97超碰香蕉20202| 永久免费av网站大全| 亚洲内射少妇av| 精品少妇一区二区三区视频日本电影 | 在线天堂最新版资源| 视频区图区小说| 我的亚洲天堂| 国产欧美日韩一区二区三区在线| 久久精品人人爽人人爽视色| 少妇人妻久久综合中文| 亚洲精品国产av成人精品| 日本欧美视频一区| 国产成人精品无人区| www.精华液| 丝袜脚勾引网站| 欧美+日韩+精品| av福利片在线| 午夜福利影视在线免费观看| 美女中出高潮动态图| 国产精品偷伦视频观看了| 在线观看免费高清a一片| 中文字幕亚洲精品专区| 美女国产视频在线观看| 亚洲国产最新在线播放| 国产乱人偷精品视频| 狠狠婷婷综合久久久久久88av| 十分钟在线观看高清视频www| 亚洲精品成人av观看孕妇| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲精品aⅴ在线观看| 日韩大片免费观看网站| 国产片特级美女逼逼视频| 欧美97在线视频| 男女啪啪激烈高潮av片| 黄色毛片三级朝国网站| 午夜福利视频在线观看免费| 成人毛片60女人毛片免费| 又粗又硬又长又爽又黄的视频| 美女国产高潮福利片在线看| 国产色婷婷99| 91午夜精品亚洲一区二区三区| av国产精品久久久久影院| 国产欧美日韩一区二区三区在线| 大陆偷拍与自拍| 日韩一卡2卡3卡4卡2021年| 国产无遮挡羞羞视频在线观看| 国产一区二区激情短视频 | 大香蕉久久成人网| 国产日韩一区二区三区精品不卡| 久久久久久人人人人人| 久久女婷五月综合色啪小说| 亚洲av.av天堂| 五月天丁香电影| 亚洲精品美女久久av网站| 欧美精品国产亚洲| 久久久精品区二区三区| 国产在线免费精品| 亚洲国产av影院在线观看| 中文字幕精品免费在线观看视频| 久热这里只有精品99| 18在线观看网站| 久久精品国产综合久久久| 亚洲第一av免费看| 欧美日韩一级在线毛片| 一二三四中文在线观看免费高清| 欧美精品高潮呻吟av久久| 亚洲激情五月婷婷啪啪| 天美传媒精品一区二区| 美女中出高潮动态图| 免费观看a级毛片全部| 亚洲成人手机| 国产又爽黄色视频| 一区在线观看完整版| 天天躁日日躁夜夜躁夜夜| 一区二区日韩欧美中文字幕| 久久这里只有精品19| 国产精品一二三区在线看| 国产免费现黄频在线看| 久久久久久伊人网av| 中文字幕精品免费在线观看视频| 在线天堂中文资源库| 97在线视频观看| 免费黄网站久久成人精品| 国产成人精品久久久久久| 在线观看美女被高潮喷水网站| 亚洲人成网站在线观看播放| 免费播放大片免费观看视频在线观看| 亚洲av福利一区| 中国国产av一级| 国产淫语在线视频| 日韩中文字幕视频在线看片| 国产亚洲精品第一综合不卡| 一区二区三区精品91| 老司机影院成人| 中文字幕另类日韩欧美亚洲嫩草| xxxhd国产人妻xxx| 亚洲精品美女久久av网站| 观看美女的网站| 日韩在线高清观看一区二区三区| 可以免费在线观看a视频的电影网站 | 国产成人精品婷婷| 丝瓜视频免费看黄片| 午夜日本视频在线| 最近的中文字幕免费完整| 久久99一区二区三区| 色播在线永久视频| 亚洲精品美女久久av网站| 一区二区三区四区激情视频| 免费少妇av软件| 日韩一卡2卡3卡4卡2021年| 精品99又大又爽又粗少妇毛片| 久久久久久久亚洲中文字幕| 国产福利在线免费观看视频| 亚洲av免费高清在线观看| 欧美老熟妇乱子伦牲交| 有码 亚洲区| 欧美另类一区| 免费久久久久久久精品成人欧美视频| 国产精品国产三级国产专区5o| 国产精品国产三级专区第一集| 国产成人精品婷婷| 建设人人有责人人尽责人人享有的| 这个男人来自地球电影免费观看 | 久久精品久久精品一区二区三区| 一区二区日韩欧美中文字幕| www.熟女人妻精品国产| 美女午夜性视频免费| 国产精品三级大全| 国产又色又爽无遮挡免| 国产高清国产精品国产三级| 亚洲,欧美,日韩| 制服人妻中文乱码| 久久av网站| 青青草视频在线视频观看| 深夜精品福利| 色视频在线一区二区三区| 亚洲国产日韩一区二区| 黄色毛片三级朝国网站| 女人久久www免费人成看片| 久久精品国产综合久久久| 老司机影院毛片| 9191精品国产免费久久| 90打野战视频偷拍视频| 国产1区2区3区精品| 五月开心婷婷网| 丝袜美足系列| 最近中文字幕2019免费版| 国语对白做爰xxxⅹ性视频网站| 亚洲av电影在线进入| av国产精品久久久久影院| 亚洲精品美女久久久久99蜜臀 | 精品酒店卫生间| 91精品国产国语对白视频| av有码第一页| 日日摸夜夜添夜夜爱| 亚洲精品一二三| 久久影院123| 18禁国产床啪视频网站| 亚洲精品国产色婷婷电影| 热99久久久久精品小说推荐| 国产精品 欧美亚洲| 久久婷婷青草| 欧美日韩亚洲国产一区二区在线观看 | 黄色毛片三级朝国网站| 日韩熟女老妇一区二区性免费视频| 一区二区三区四区激情视频| 看免费成人av毛片| 久久韩国三级中文字幕| 久久精品人人爽人人爽视色| 亚洲欧美一区二区三区久久| 最近中文字幕2019免费版| 高清欧美精品videossex| 波野结衣二区三区在线| 亚洲国产最新在线播放| 日本免费在线观看一区| 99九九在线精品视频| 你懂的网址亚洲精品在线观看| 99久国产av精品国产电影| 永久免费av网站大全| 一二三四在线观看免费中文在| 久久99精品国语久久久| 欧美亚洲日本最大视频资源| 欧美bdsm另类| 成年av动漫网址| 欧美日韩视频精品一区| 如何舔出高潮| 亚洲欧洲国产日韩| 亚洲少妇的诱惑av| 久久久国产一区二区| 赤兔流量卡办理| 成人影院久久| 国产又色又爽无遮挡免| 观看美女的网站| av线在线观看网站| 亚洲av男天堂| 97在线人人人人妻| 亚洲综合色网址| 日韩在线高清观看一区二区三区| 日本av手机在线免费观看| 老汉色av国产亚洲站长工具| 欧美精品国产亚洲| 久久毛片免费看一区二区三区| 久久热在线av| 伦精品一区二区三区| av国产精品久久久久影院| 色网站视频免费| 男人爽女人下面视频在线观看| 日韩av在线免费看完整版不卡| 免费看av在线观看网站| 久久久精品国产亚洲av高清涩受| 久久人人97超碰香蕉20202| 色婷婷av一区二区三区视频| 欧美精品高潮呻吟av久久| 97在线视频观看| 欧美人与善性xxx| 99久久综合免费| 人体艺术视频欧美日本| 久久国内精品自在自线图片| 男女边摸边吃奶| 18禁观看日本| 久久久久久伊人网av| 男女无遮挡免费网站观看| 亚洲国产精品一区三区| 国产一区二区激情短视频 | 秋霞在线观看毛片| 最黄视频免费看| 亚洲国产精品国产精品| 熟女少妇亚洲综合色aaa.| 亚洲欧美成人精品一区二区| 午夜免费鲁丝| 亚洲成色77777| 在现免费观看毛片| 欧美精品人与动牲交sv欧美| 久久精品夜色国产| 中文欧美无线码| 亚洲精品一区蜜桃| 国产精品人妻久久久影院| 久热这里只有精品99| av国产精品久久久久影院| 成人免费观看视频高清| av女优亚洲男人天堂| av免费观看日本| 一个人免费看片子| 视频区图区小说| 亚洲少妇的诱惑av| 免费av中文字幕在线| 老汉色av国产亚洲站长工具| 中文字幕精品免费在线观看视频| 日产精品乱码卡一卡2卡三| 男人舔女人的私密视频| 亚洲精品乱久久久久久| 熟女av电影|