大數(shù)據(jù)是包容的工具還是排斥的工具

作者：Edith Ramirez，美國聯(lián)邦貿(mào)易委員會主席Julie Brill，Maureen K.Ohlhausen，Terrell McSweeny，美國聯(lián)邦貿(mào)易委員會委員譯者：郭翠瀟，中國社會科學(xué)院民族文學(xué)研究所資料中心助理研究員

大數(shù)據(jù)是包容的工具還是排斥的工具

作者：Edith Ramirez，美國聯(lián)邦貿(mào)易委員會主席Julie Brill，Maureen K.Ohlhausen，Terrell McSweeny，美國聯(lián)邦貿(mào)易委員會委員
譯者：郭翠瀟，中國社會科學(xué)院民族文學(xué)研究所資料中心助理研究員

譯者按：美國聯(lián)邦貿(mào)易委員會（Federal Trade Commission）于2016年1月發(fā)布了一篇題為“Big Data：A Tool for Inclusion or Exclusion？”的報告1報告全文可在美國聯(lián)邦貿(mào)易委員會官方網(wǎng)站下載：https://www.ftc.gov/reports/big-data-tool-inclusion-or-exclusion-understanding-issues-ftc-report。該報告認(rèn)可大數(shù)據(jù)在商業(yè)領(lǐng)域的應(yīng)用正在幫助低收入和服務(wù)匱乏社群提供教育、信貸、醫(yī)療和就業(yè)機(jī)會，但同時也注意到大數(shù)據(jù)分析中的“隱性偏差”及其可能對低收入和服務(wù)匱乏人群產(chǎn)生的不利影響。報告提出了一些關(guān)鍵問題供企業(yè)考慮，旨在幫助企業(yè)在利用大數(shù)據(jù)分析時，確保給消費(fèi)者帶來利益的同時能夠避免產(chǎn)生歧視性或排他性的后果，以限制大數(shù)據(jù)的危害。報告對大數(shù)據(jù)應(yīng)用中的數(shù)據(jù)集代表性、數(shù)據(jù)模型是否包含偏見、大數(shù)據(jù)預(yù)測是否準(zhǔn)確以及對利用大數(shù)據(jù)決策過程中的公平性和道德等問題進(jìn)行了反思，對中國當(dāng)前的大數(shù)據(jù)熱提供了冷思考，頗具借鑒意義。這里將這篇報告的主要部分譯出，供讀者參考。

我們身處大數(shù)據(jù)時代?，F(xiàn)在幾乎每人都有一部智能手機(jī)、每家都有一臺電腦，市場上能連接互聯(lián)網(wǎng)的設(shè)備越來越多，消費(fèi)者數(shù)據(jù)流動在經(jīng)濟(jì)的各個角落，數(shù)據(jù)量持續(xù)快速增長。

對消費(fèi)者數(shù)據(jù)的分析，往往對企業(yè)和消費(fèi)者有價值，因為它可以引導(dǎo)新產(chǎn)品和新服務(wù)的開發(fā)、預(yù)測個人喜好，有助于為消費(fèi)者提供定制服務(wù)和機(jī)會，引導(dǎo)個性化營銷。與此同時，倡導(dǎo)者、學(xué)者及其他人提出要關(guān)注大數(shù)據(jù)分析的某些應(yīng)用是否會損害消費(fèi)者，特別是低收入和服務(wù)匱乏人群。

為了探討這些問題，美國聯(lián)邦貿(mào)易委員會（簡稱“FTC”或“委員會”）于2014年9月15日舉行了一次公開研討會，主題為“大數(shù)據(jù)：包容或排斥的工具？”研討會上，利益相關(guān)方齊聚一堂，討論了大數(shù)據(jù)的潛力：既能為消費(fèi)者創(chuàng)造機(jī)會，也會讓他們失去這些機(jī)會。該委員會將此次研討會信息和先前FTC一次有關(guān)評分產(chǎn)品替代性選擇的研討會信息，以及新近研究綜合起來，形成了這篇報告。雖然“大數(shù)據(jù)”分析涵蓋的范圍非常廣，但本報告只涉及包括消費(fèi)者信息在內(nèi)的大數(shù)據(jù)的商業(yè)用途，并重點關(guān)注大數(shù)據(jù)對低收入和服務(wù)匱乏人群的影響。當(dāng)然，大數(shù)據(jù)也引發(fā)了許多重要的政策問題，如公告、選擇、安全性等等，但這些不是本報告關(guān)注的主要問題。

“小”數(shù)據(jù)變成“大”數(shù)據(jù)，要經(jīng)過幾個階段。大數(shù)據(jù)的生命周期可分為四個階段：（1）采集；（2）匯集和融合；（3）分析；（4）使用。

本報告關(guān)注第四個階段，討論使用大數(shù)據(jù)分析帶來的收益和風(fēng)險；目前適用于大數(shù)據(jù)的消費(fèi)者保護(hù)法和平等機(jī)會法；大數(shù)據(jù)領(lǐng)域的研究；企業(yè)應(yīng)從這些研究中吸取的教訓(xùn)。最后，本報告旨在為企業(yè)提供有關(guān)大數(shù)據(jù)分析的重要法律和研究方面的指導(dǎo)，同時為企業(yè)提供建議，以最大限度地提高其收益、降低風(fēng)險。

大數(shù)據(jù)的收益與風(fēng)險

大數(shù)據(jù)分析可以提供很多社會改善的機(jī)會。除了更有效地為消費(fèi)者匹配產(chǎn)品和服務(wù)，大數(shù)據(jù)還可以為低收入和服務(wù)匱乏的社區(qū)創(chuàng)造機(jī)會。例如，與會者和其他人指出，大數(shù)據(jù)正在幫助向低收入和服務(wù)匱乏社群提供教育、信貸、醫(yī)療和就業(yè)機(jī)會。同時，與會者和其他人也注意到“隱性偏差”和偏見可能會導(dǎo)致對低收入和服務(wù)匱乏人群產(chǎn)生不利影響。例如，與會者擔(dān)心，企業(yè)可能會利用大數(shù)據(jù)把低收入和服務(wù)匱乏社群排除在外，不為他們提供貸款和就業(yè)機(jī)會。

適用于大數(shù)據(jù)的消費(fèi)者保護(hù)法

與會者和評議人討論了企業(yè)怎樣使用大數(shù)據(jù)才能讓企業(yè)本身和社會都受益，同時還能最大限度地減少法律和道德風(fēng)險。他們明確指出，企業(yè)應(yīng)該懂得相關(guān)法律，其中包括《公平信用報告法》，《平等機(jī)會法》和《聯(lián)邦貿(mào)易委員會法》，這些法律可適用于大數(shù)據(jù)實踐。2此處將原文對這三部法律的介紹和對大數(shù)據(jù)適用性的討論省略未譯--譯者注

大數(shù)據(jù)研究

與會者、學(xué)者和其他人還討論了大數(shù)據(jù)分析可能通過哪些方式影響低收入、服務(wù)匱乏以及受保護(hù)群體。一些人指出，有研究表明，大數(shù)據(jù)分析的每個階段——從選擇用于預(yù)測的數(shù)據(jù)集，到通過大數(shù)據(jù)界定需要處理的問題，再到根據(jù)大數(shù)據(jù)分析結(jié)果做出決策——都可能會有錯誤和偏差，而這可能會導(dǎo)致潛在的歧視性危害。其他人則指出，這些擔(dān)憂過于夸張或只是老生常談，他們強(qiáng)調(diào)，大數(shù)據(jù)可以為低收入和服務(wù)匱乏人群創(chuàng)造機(jī)會而不是讓少數(shù)群體處于不利地位。

為了讓收益最大化，同時限制大數(shù)據(jù)的危害，委員會通過在這一領(lǐng)域的研究提出下列問題，鼓勵企業(yè)去考慮：

你們的數(shù)據(jù)集代表性如何？企業(yè)應(yīng)考慮其數(shù)據(jù)集是否缺少某些人群的信息，并采取措施解決代表性不足和某些人群比例過高的問題。例如，如果一家公司將服務(wù)對象設(shè)定為通過應(yīng)用程序或社交媒體進(jìn)行人際溝通的消費(fèi)者，他們可能會忽略那些不那么精通此項技術(shù)的人群。

你們的數(shù)據(jù)模型是否包含偏見？企業(yè)應(yīng)該考慮大數(shù)據(jù)生命周期的數(shù)據(jù)采集和分析階段是否包含偏見，并制定戰(zhàn)略來克服這些偏見。例如，如果一家公司有一套幫助他們做出聘用決定的大數(shù)據(jù)算法，但這套算法只考慮來自“頂級”院校的申請人，那么他們可能就納入了高考錄取決定中的偏見。

你們基于大數(shù)據(jù)的預(yù)測有多準(zhǔn)確？企業(yè)應(yīng)該牢記，雖然大數(shù)據(jù)非常善于檢測相關(guān)性，但并不能解釋哪些相關(guān)性是有意義的。有一個典型的例子可以說明大數(shù)據(jù)分析的局限性，那就是谷歌流感趨勢——基于谷歌的搜索詞來預(yù)測流感病例數(shù)量的機(jī)器學(xué)習(xí)算法。最初，該算法似乎對哪里流感更普遍做出了準(zhǔn)確的預(yù)測，但隨著時間推移，其產(chǎn)生的預(yù)測變得極不準(zhǔn)確。這可能是因為該算法未能顧及某些變量。例如，該算法可能沒有考慮到，如果當(dāng)?shù)匕l(fā)布了一條流感爆發(fā)的新聞，甚至流感正在世界各地爆發(fā)時，那么人們會更容易搜索跟流感相關(guān)的詞。

你們對大數(shù)據(jù)的依賴是否引起道德或公平性的擔(dān)憂？企業(yè)應(yīng)評估一個分析模型中包含的因素，在模型預(yù)測價值上兼顧公平性考量。例如，一家公司認(rèn)為住得離單位近的員工比住得遠(yuǎn)的員工更不容易辭職。然而，另一家公司因為考慮到種族歧視，尤其是不同的鄰里街區(qū)有不同的種族構(gòu)成，于是決定從其招聘算法中排除這一因素。

委員會鼓勵企業(yè)通過為消費(fèi)者提供利益和機(jī)會的方式來應(yīng)用大數(shù)據(jù)分析，同時要避免違反消費(fèi)者保護(hù)和機(jī)會均等法律，避免減損包容和公平的核心價值。委員會自己則將繼續(xù)監(jiān)控可能違反現(xiàn)有的法律——包括《聯(lián)邦貿(mào)易委員會法》，《公平信用報告法》和《平等機(jī)會法》的大數(shù)據(jù)實踐活動，并在適當(dāng)情況下會引發(fā)執(zhí)法行動。委員會也將繼續(xù)調(diào)查大數(shù)據(jù)實踐可能會對低收入和服務(wù)匱乏人群產(chǎn)生的不利影響，并提高人們在這方面的意識，同時，還會推廣對這些人群產(chǎn)生積極影響大數(shù)據(jù)的使用。

Big Data:A Tool for Inclusion or Exclusion