AI系統(tǒng)如何不遭人恨

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、人工智能的結(jié)合是如今全球經(jīng)濟(jì)中最耀眼的閃光點(diǎn)。但也有人不看好人工智能應(yīng)用，第一個(gè)原因就是侵犯數(shù)據(jù)隱私。人工智能是靠數(shù)據(jù)驅(qū)動(dòng)的，人們不清楚自動(dòng)化技術(shù)掌握了什么隱私信息，也不明白了解到的信息要派什么用場(chǎng)，由此產(chǎn)生了擔(dān)憂和不安。

第二個(gè)原因就是侵犯用戶的自主決定權(quán)。當(dāng)顧客認(rèn)為服務(wù)供應(yīng)商能夠基于他們過去的選擇，預(yù)測(cè)其未來傾向時(shí)，他們通常會(huì)選擇次優(yōu)方案。也就是說，消費(fèi)者會(huì)有意違背自己的偏好，做出有悖于預(yù)測(cè)的選擇，以重建個(gè)人自主權(quán)。

企業(yè)要想開發(fā)不會(huì)引起顧客仇視的人工智能技術(shù)，需做到以下幾點(diǎn)。

保護(hù)顧客的個(gè)性特點(diǎn) 自主權(quán)的一個(gè)重要方面就是個(gè)性。當(dāng)人們遇到問題需要幫助時(shí)，他們渴望得到人工客服的關(guān)注，而不喜歡機(jī)器人提供千篇一律的解決方案。人們?cè)谏〉臅r(shí)候也更希望見到醫(yī)生或護(hù)士，而不是具備醫(yī)護(hù)功能的機(jī)器人，因?yàn)樗麄冇X得自己的病情有獨(dú)特的地方，機(jī)器考慮不到這種細(xì)微的個(gè)體差異。

不過人工智能的機(jī)器人可以小步推進(jìn)，讓每一次互動(dòng)變得人性化。在一項(xiàng)隨機(jī)對(duì)照測(cè)試中，如果算法對(duì)拒絕顧客交易的原因做了簡(jiǎn)單說明，那么顧客撥打服務(wù)中心電話的可能性就會(huì)低于沒有任何解釋說明的情況。

保護(hù)顧客不愿被預(yù)測(cè)的自由 自由的一個(gè)主要方面就是個(gè)人可以改變想法，放棄一貫的行為模式。消費(fèi)者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據(jù)其購買記錄或?yàn)g覽歷史，有針對(duì)性推送商品），就越想擺脫這樣的選擇定式。

謹(jǐn)慎選用推送措辭會(huì)有所幫助。如果把消費(fèi)者行為描述成“前后一致”（表達(dá)正面含義），而不是“可預(yù)測(cè)”（傳遞負(fù)面含義），那么在消費(fèi)者心里，這種對(duì)自主決定權(quán)的威脅可能就沒那么大。例如，消費(fèi)者在亞馬遜上買了《指環(huán)王》系列叢書中的一兩本，那么接下來他們會(huì)收到邀請(qǐng)來“繼續(xù)領(lǐng)略托爾金的作品魅力”或“全面了解本套叢書”。這種推薦方式會(huì)無形地鼓勵(lì)他們按原先選定的道路前行，而不會(huì)迫使他們做出改變來彰顯自己的獨(dú)立自主性。

保護(hù)顧客的隱私 去年，《紐約時(shí)報(bào)》報(bào)道稱，美國(guó)至少有75家公司從多達(dá)2億部移動(dòng)設(shè)備中收集極其精確的位置信息。美國(guó)東北大學(xué)的研究者發(fā)現(xiàn)，有9，000多個(gè)安卓應(yīng)用得到授權(quán)，可以調(diào)用所安裝設(shè)備上的麥克風(fēng)與照相機(jī)。

利用算法來推導(dǎo)人的行為，有時(shí)會(huì)很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報(bào)》的視頻編輯流產(chǎn)了，但線上的孕婦產(chǎn)品廣告還是源源不斷地推送給她，一次又一次撕開她內(nèi)心的傷口。因?yàn)橛辛松缃幻襟w，這類嚴(yán)重侵犯?jìng)€(gè)人隱私的事情很容易就被公之于眾。企業(yè)應(yīng)當(dāng)小心謹(jǐn)慎，避免過度利用相關(guān)數(shù)據(jù)。

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、人工智能（AI）的結(jié)合是如今全球經(jīng)濟(jì)中最耀眼的閃光點(diǎn)。根據(jù)麥肯錫全球研究團(tuán)隊(duì)（McKinsey Global Research）的估算，到2030年，人工智能的使用給全球經(jīng)濟(jì)的貢獻(xiàn)總量將高達(dá)13萬億美元。對(duì)人類而言，人工智能帶來的非經(jīng)濟(jì)利益也同樣可觀，它能夠讓世界更加安全（減少毀滅性的人工錯(cuò)誤），提高人們的生活質(zhì)量（開車、購物等單調(diào)重復(fù)事務(wù)占用時(shí)間更少）。很多人擔(dān)心即將到來的自動(dòng)駕駛會(huì)給勞動(dòng)力市場(chǎng)帶來顛覆性影響。即便如此，我們的生活總體來說還是會(huì)變得更好。

但并不是所有人都接受這一點(diǎn)。不看好人工智能應(yīng)用的預(yù)測(cè)主要集中在兩大領(lǐng)域，彼此關(guān)聯(lián)但相對(duì)獨(dú)立。第一項(xiàng)事關(guān)數(shù)據(jù)隱私。不管怎么說，人工智能是靠數(shù)據(jù)驅(qū)動(dòng)的，人們不清楚自動(dòng)化技術(shù)掌握了什么隱私信息，也不明白了解到的信息要派什么用場(chǎng)，由此產(chǎn)生的惶惑不安是可以理解的。數(shù)字時(shí)代的隱私問題已經(jīng)有人做了廣泛的研究和論述。相關(guān)企業(yè)正越來越關(guān)注如何減輕顧客的擔(dān)憂情緒。

然而，有一點(diǎn)許多企業(yè)還沒有認(rèn)真考慮過，那就是自主性。盡管自動(dòng)技術(shù)應(yīng)用的范圍很廣，而且會(huì)越來越廣，但如果超過一定限度，就會(huì)威脅到用戶的自主權(quán)與自由意志，換句話說，用戶是否還擁有自由選擇生活方式的決定權(quán)。最近一項(xiàng)研究發(fā)現(xiàn)，當(dāng)顧客認(rèn)為服務(wù)供應(yīng)商能夠基于他們過去的選擇，預(yù)測(cè)其未來傾向時(shí)，他們通常會(huì)選擇次優(yōu)方案。也就是說，消費(fèi)者會(huì)有意違背自己的偏好，做出有悖于預(yù)測(cè)的選擇，以重建個(gè)人自主權(quán)。

技術(shù)與自由意志之間的沖突關(guān)系久已有之。費(fèi)奧多爾·陀思妥耶夫斯基（Fyodor Dostoevsky）在1864年創(chuàng)作的小說《地下室手記》（Notes From Underground）中，借與社會(huì)疏離的主人公“地下人”之口對(duì)此做了描述。這位主人公認(rèn)為，即使在一個(gè)烏托邦社會(huì)，人類也會(huì)做出反抗，目的只是想證明“人仍然是人，而非鋼琴琴鍵”。

不幸的是，技術(shù)對(duì)人的威脅可能會(huì)隨著技術(shù)創(chuàng)新的加速，以及自動(dòng)設(shè)備不斷進(jìn)入顧客生活的全新領(lǐng)域而進(jìn)一步加劇。我們是在最近對(duì)哲學(xué)、營(yíng)銷、經(jīng)濟(jì)以及其他一些領(lǐng)域的不同觀點(diǎn)做了調(diào)研之后得出上述結(jié)論的。但好消息是我們經(jīng)過分析，還提出了幾條建議，幫助企業(yè)開發(fā)不會(huì)引起顧客仇視的人工智能技術(shù)。這些建議可以分成以下三類。

保護(hù)顧客的個(gè)性特點(diǎn)

自主權(quán)的一個(gè)重要方面就是個(gè)性，個(gè)性的意思就是我們每個(gè)人都有與眾不同的核心特點(diǎn)，人與人不可能相互取代。這一思想在西方發(fā)達(dá)社會(huì)尤為突出（當(dāng)然也并不局限于西方）。但現(xiàn)在我們生活在算法的時(shí)代，算法可以根據(jù)大眾數(shù)據(jù)對(duì)個(gè)人的偏好與行為做出準(zhǔn)確預(yù)計(jì)，這對(duì)消費(fèi)者的個(gè)性意識(shí)構(gòu)成了挑戰(zhàn)。

舉例來說，現(xiàn)在企業(yè)越來越多地使用人工智能驅(qū)動(dòng)的客戶服務(wù)機(jī)器人，對(duì)顧客遇到的問題或咨詢提供基本答案。對(duì)許多顧客而言，這些機(jī)器人使用起來更方便，相比呼叫中心的客服代表，機(jī)器人服務(wù)對(duì)象更多，同時(shí)耗時(shí)更少。然而，有些消費(fèi)者對(duì)人機(jī)互動(dòng)還是抱有抵制態(tài)度。當(dāng)人們遇到問題，需要幫助時(shí)，許多人渴望得到人工客服的關(guān)注。他們可能是受到了早期技術(shù)低級(jí)、體驗(yàn)不佳的影響，比如呼叫中心可能只是安排他們走完一套標(biāo)準(zhǔn)化的選項(xiàng)菜單，從不讓他們與人工客服對(duì)話。從更廣的范圍來看，許多人不喜歡這種標(biāo)準(zhǔn)化的做法，仿佛他們的問題都大同小異，完全可以用機(jī)器人來提供千篇一律的解決方案。

最近一項(xiàng)研究發(fā)現(xiàn)人們?cè)谏〉臅r(shí)候還是更希望見到醫(yī)生或護(hù)士，而不是具備醫(yī)護(hù)功能的機(jī)器人（即使有人告訴他們機(jī)器人診斷更加準(zhǔn)確），因?yàn)樗麄冇X得自己的病情有獨(dú)特的地方，機(jī)器考慮不到這種細(xì)微的個(gè)體差異。（的確，相比一般的消費(fèi)行為，醫(yī)療決策關(guān)系重大，但適用原則并無二致）

一部分技術(shù)派人士認(rèn)為這個(gè)問題可以自然得到解決，因?yàn)槿斯ぶ悄軕?yīng)用很快就能進(jìn)化到讓消費(fèi)者看不出人機(jī)差別的程度。但這種靠技術(shù)完善來解決問題的策略有時(shí)也會(huì)事與愿違。谷歌曾經(jīng)推出的虛擬助手Duplex能夠模仿人類說話，精度之高，令人稱奇，但很快就遭到公眾的撻伐。

不過如果設(shè)計(jì)手段正確，企業(yè)或許都不需要做特別的說服工作。比如，AI機(jī)器人可以小步推進(jìn)，讓每一次互動(dòng)變得人性化，從而消除用戶對(duì)于自主決定權(quán)受到侵犯的擔(dān)憂。有時(shí)候雖然只是一點(diǎn)點(diǎn)人性化改進(jìn)，收效卻很明顯。2016年的一項(xiàng)研究發(fā)現(xiàn)，消費(fèi)者在選購一些像咖啡、水筆等產(chǎn)品時(shí)，如果制作者（人工咖啡師或企業(yè)代表）能喊出顧客的名字，一下子就能提高顧客對(duì)產(chǎn)品的親切感。另一些正在進(jìn)行的研究發(fā)現(xiàn)，在隨機(jī)對(duì)照測(cè)試中，如果算法對(duì)拒絕顧客交易的原因做了簡(jiǎn)單說明，那么顧客撥打服務(wù)中心電話的可能性就會(huì)低于沒有任何解釋說明的情況。

同樣，企業(yè)可以設(shè)計(jì)一些互動(dòng)環(huán)節(jié)（和AI機(jī)器人互動(dòng)也行），讓用戶感覺自己對(duì)過程有控制權(quán)，從而保護(hù)他們的個(gè)性。著名的宜家效應(yīng)也是基于此理，顧客買來平板包裝的家具組件，自己動(dòng)手組裝，他們與所購商品之間由此產(chǎn)生了一種更加緊密的聯(lián)系。如果企業(yè)努力把互動(dòng)做得無比順暢便捷，那么消費(fèi)者就沒有機(jī)會(huì)表達(dá)自己的個(gè)性和自主權(quán)，也無法加深與相關(guān)產(chǎn)品和服務(wù)的聯(lián)系。如果人工智能可以讓用戶感覺到自己的使用體驗(yàn)與眾不同，那么就容易得到顧客的青睞。

有些企業(yè)可能想用模擬互動(dòng)的方式來走捷徑，達(dá)到同樣的效果。在一項(xiàng)研究中，某個(gè)牙醫(yī)診所告訴病人在感覺疼痛的時(shí)候，可以通過按某個(gè)按鈕告知醫(yī)生。研究發(fā)現(xiàn)病人就醫(yī)過程中其實(shí)很少撳下按鈕，但擁有自主權(quán)的感覺著實(shí)讓疼痛有所緩解。

我們從這個(gè)實(shí)驗(yàn)中知道，代表選擇權(quán)的控制桿，即使是擺設(shè)，也能夠滿足人們擁有對(duì)環(huán)境控制權(quán)的愿望。但是一旦這種把戲被揭穿，絕大多數(shù)顧客不會(huì)喜歡被騙的感覺，因此控制效果無論多小，還是要有一些，這好過完全弄虛作假。說到底，在請(qǐng)顧客參與這件事上，做不做與怎么做，前者肯定更重要。

保護(hù)顧客不愿被預(yù)測(cè)的自由

自由的一個(gè)主要方面就是個(gè)人可以改變想法，放棄一貫的行為模式，用哲學(xué)家的話來說，就是“另辟蹊徑的自由”。對(duì)于人工智能的開發(fā)者而言，這個(gè)問題如影隨形，因?yàn)榧词故亲罹?xì)的機(jī)器學(xué)習(xí)算法也難以預(yù)測(cè)人類的任性作為。消費(fèi)者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據(jù)其購買記錄或?yàn)g覽歷史，有針對(duì)性推送商品），就越想擺脫這樣的選擇定式。

謹(jǐn)慎選用推送措辭會(huì)有所幫助。我們正在進(jìn)行的一些研究表明，如果把消費(fèi)者行為描述成“前后一致”（表達(dá)正面含義），而不是“可預(yù)測(cè)”（傳遞負(fù)面含義），那么在消費(fèi)者心里，這種對(duì)自主決定權(quán)的威脅可能就沒那么大。考慮到這種差異，企業(yè)在推薦商品時(shí)，如果以邀請(qǐng)顧客完成某項(xiàng)任務(wù)，或獲得更多深層知識(shí)的形式提出來，那就不大容易激起顧客的反感。例如，消費(fèi)者在亞馬遜上買了《指環(huán)王》（Lord of the Rings）系列叢書中的一兩本，那么接下來他們會(huì)收到邀請(qǐng)來“繼續(xù)領(lǐng)略托爾金（Tolkien）的作品魅力”或“全面了解本套叢書”。這種推薦方式會(huì)無形地鼓勵(lì)他們按原先選定的道路前行，而不會(huì)迫使他們做出改變來彰顯自己的獨(dú)立自主性。

話雖這么說，有時(shí)跳出舊習(xí)窠臼對(duì)消費(fèi)者是最有利的。舉例來說，有一位近來對(duì)身體狀況非常在意的消費(fèi)者出于健康考慮，減少了含糖蘇打水的攝入?？墒钱?dāng)他回到家，發(fā)現(xiàn)亞馬遜根據(jù)他之前的購買記錄，利用算法自動(dòng)為他訂購了之前鐘愛的品牌飲料，這時(shí)他可能覺得技術(shù)在瓦解他的意志力。同樣，一位煙民如果通過App提示或郵件了解到電子煙促銷信息，他可能會(huì)很氣憤，感覺戒煙更困難了。

但人工智能是系鈴人，也是解鈴人，它可以幫助消費(fèi)者擺脫不好的舊習(xí)，提升他們的自主意識(shí)和消費(fèi)忠誠(chéng)度。的確，我們所做的研究認(rèn)為，算法經(jīng)過訓(xùn)練可以找到那些計(jì)劃有所改變，讓自己更加積極健康，但落實(shí)到行動(dòng)還需要一點(diǎn)點(diǎn)推動(dòng)的人。這類消費(fèi)者的購買行為特別能說明問題，研究者將其定義為“預(yù)承諾”。舉例來說，有些消費(fèi)者擔(dān)心自己意志力不夠，抵御不住誘惑，于是他們會(huì)給自己做規(guī)矩，提高犯錯(cuò)的難度和代價(jià)。比如，“預(yù)承諾”的消費(fèi)者為了減少食用垃圾食品，不再購買那些性價(jià)比高的大包裝零食，而改選那些小包裝、單價(jià)高的同類商品。還可以再舉一個(gè)有代表性的例子，有些設(shè)定了高難度目標(biāo)的人會(huì)到stickK.com網(wǎng)站上尋求承諾兌現(xiàn)工具，提高因堅(jiān)持不下去而付出的代價(jià)。

如果消費(fèi)者傳遞出了“預(yù)承諾”信號(hào)，而公司想加以利用，那該怎么做？它們可以設(shè)計(jì)一種算法找到這部分消費(fèi)者，用更加正規(guī)、嚴(yán)謹(jǐn)?shù)倪x項(xiàng)，幫助他們持續(xù)改善生活方式。同時(shí)對(duì)于下決心要有所改變的消費(fèi)者，公司還可以助推一把，鼓勵(lì)他們將長(zhǎng)期目標(biāo)和更高的生活愿望公之于眾。當(dāng)然，提建議要考慮用戶感受，要用明確的語言告訴用戶，這并非必選項(xiàng)，任何時(shí)候都可以禁用或刪除。當(dāng)人們開始使用這一產(chǎn)品或服務(wù)平臺(tái)時(shí)，人工智能還可以發(fā)現(xiàn)在哪些關(guān)鍵節(jié)點(diǎn)，消費(fèi)者會(huì)更愿意嘗試相關(guān)選擇，從而與他們之前聲明的長(zhǎng)期目標(biāo)保持一致。

研究顯示，當(dāng)人們審視自己的行為時(shí)，他們會(huì)更加趨近于自己內(nèi)心根深蒂固的偏好。一項(xiàng)針對(duì)美國(guó)選民的調(diào)查發(fā)現(xiàn)，盡管許多選民認(rèn)為“政策包含什么內(nèi)容”比“哪個(gè)政黨支持某項(xiàng)政策”更重要，更值得考慮，但在投票時(shí)，他們還是會(huì)選擇政黨。這時(shí)如果有人要求他們?cè)僮屑?xì)考慮究竟該把票投給“政策”還是“政黨”，他們又可能轉(zhuǎn)變?yōu)楦鶕?jù)政策內(nèi)容來做決定，因?yàn)檫@樣更符合他們真正的偏好。選民只需對(duì)自己的投票行為多些反思，就會(huì)更理解自己做選擇的方式。一個(gè)根據(jù)消費(fèi)者過去習(xí)慣訓(xùn)練而成的算法是發(fā)現(xiàn)不了這種可能性的。因此，人工智能除了要讓消費(fèi)者意識(shí)到并表達(dá)“另辟蹊徑”的自由，幫助他們將種種選擇變得簡(jiǎn)單明了，還要給消費(fèi)者更多機(jī)會(huì)宣示他們的抱負(fù)，或者說“底層偏好”，從而造福他們。

保護(hù)顧客的隱私

隱私和自主權(quán)是相對(duì)獨(dú)立但又彼此重疊的關(guān)聯(lián)概念。在人們想做一些事情，又不希望別人知道的時(shí)候，如果必要的保密做不到，那么當(dāng)事人的決定肯定會(huì)受到影響。沒有一定程度的隱私，獨(dú)立自主的人就會(huì)感到不安全。臉書、谷歌以及其他互聯(lián)網(wǎng)公司都提供了隱私設(shè)置，算是對(duì)隱私有了一丁點(diǎn)兒保護(hù)，當(dāng)然前提是用戶知道如何操作這一設(shè)置。

從更普遍的意義而言，互聯(lián)網(wǎng)模糊了個(gè)人公共歸屬和私人領(lǐng)域的界限。我們拿著數(shù)字設(shè)備工作的同時(shí)，一些個(gè)人信息自動(dòng)傳遞了出去，包括谷歌搜索、約會(huì)軟件Tinder配對(duì)、YouTube瀏覽、Siri問詢、Alexa請(qǐng)求，以及我們?cè)诰€做的一切，所有這些都有可能被攔截、被利用，給我們?cè)斐刹焕绊憽１M管如此，我們還是心無掛礙地向手里的設(shè)備吐露心聲。這一方面證明了當(dāng)今工程師、設(shè)計(jì)師善于誘惑人心，另一方面也表明人類容易對(duì)一些問題熟視無睹，哪怕它們?cè)絹碓接|目驚心，直到臨界點(diǎn)的出現(xiàn)。

現(xiàn)在我們已經(jīng)過了這個(gè)臨界點(diǎn)，因?yàn)槿藗冊(cè)絹碓揭庾R(shí)到，個(gè)人網(wǎng)上隱私所面臨的威脅不僅僅來自那些網(wǎng)絡(luò)罪犯。去年，《紐約時(shí)報(bào)》（The New York Times）報(bào)道稱，美國(guó)至少有75家公司從多達(dá)2億部移動(dòng)設(shè)備中收集極其精確的位置信息，個(gè)人用戶每天被追蹤的次數(shù)多達(dá)1.4萬次。美國(guó)東北大學(xué)（Northeastern University）的研究者發(fā)現(xiàn)，有9，000多個(gè)安卓應(yīng)用得到授權(quán)，可以調(diào)用所安裝設(shè)備上的麥克風(fēng)與照相機(jī)。研究人員還發(fā)現(xiàn)有些應(yīng)用程序可以隨意獲取用戶的個(gè)人活動(dòng)數(shù)據(jù)，并且把這部分?jǐn)?shù)據(jù)傳輸給第三方。

最近美國(guó)聯(lián)邦貿(mào)易委員會(huì)（U.S. Federal Trade Commission）對(duì)YouTube處以1.7億美元的罰款，因?yàn)楹笳呤占瞬粷M13歲的兒童個(gè)人信息，用于優(yōu)化在線廣告的推送。

利用算法來推導(dǎo)人的行為，有時(shí)會(huì)很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報(bào)》（The Washington Post）的視頻編輯流產(chǎn)了，但線上的孕婦產(chǎn)品廣告還是源源不斷地推送給她，一次又一次撕開她內(nèi)心的傷口。

因?yàn)橛辛松缃幻襟w，這類嚴(yán)重侵犯?jìng)€(gè)人隱私的事情很容易就被公之于眾。如果哪家公司的人工智能解決方案最終給消費(fèi)者造成了情感上的傷害，那么它也會(huì)反受其害。

由于對(duì)數(shù)字化隱私的關(guān)切已經(jīng)到了臨界點(diǎn)，力量的天平正在從科技公司向用戶傾斜。歐盟的《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation， GDPR）就是一個(gè)很好的例子。我們的建議是，面對(duì)趨勢(shì)轉(zhuǎn)變，公司不應(yīng)該抗拒，而應(yīng)該積極擁抱變化，主動(dòng)尋找辦法讓用戶對(duì)于個(gè)人數(shù)據(jù)的使用擁有更大的掌控權(quán)。蘋果公司（Apple）CEO蒂姆·庫克（Tim Cook）已經(jīng)把妥善處理顧客隱私作為品牌差異化的重要手段。如果措施得當(dāng)，更平等、更透明的隱私政策將讓所有人受益。

保護(hù)好隱私和自主權(quán)，需要人們重新思考敏感信息如何得來，最終用途何在。盡管發(fā)生了幾樁臭名昭著的侵權(quán)事件，但算法在互聯(lián)網(wǎng)搜索、社交媒體點(diǎn)贊等信息輸入的基礎(chǔ)上，將會(huì)越來越準(zhǔn)確地預(yù)測(cè)出用戶所需。企業(yè)應(yīng)當(dāng)小心謹(jǐn)慎，避免過度利用相關(guān)數(shù)據(jù)，它們還是要繼續(xù)讓用戶感到喜歡什么是自己的事，而且別人不會(huì)知道。

一項(xiàng)正在進(jìn)行的研究項(xiàng)目顯示，消費(fèi)者如果覺得自己在做決定時(shí)，一直受到監(jiān)視，他就會(huì)認(rèn)為他的自主決定權(quán)受到了嚴(yán)重威脅。相比之下，已決定好的事情，別人把它透露出去，這給當(dāng)事人帶來的影響則要輕微一些。有鑒于此，當(dāng)給顧客推薦商品時(shí)，說“根據(jù)您之前的購買記錄”要比“根據(jù)您之前的瀏覽歷史”好一些，前者對(duì)消費(fèi)者自主意識(shí)的威脅要小。我們的研究發(fā)現(xiàn)，對(duì)消費(fèi)者而言，跟蹤已經(jīng)完成的購買（相當(dāng)于公開表達(dá)對(duì)某些產(chǎn)品和服務(wù)的需求）相對(duì)公平，而界定模糊的在線監(jiān)控則有失公平。

安撫“地下人”

讓我們把話說明白：我們并不認(rèn)為基于算法的創(chuàng)新應(yīng)該停止前進(jìn)，或放慢腳步。相反，我們的觀點(diǎn)是，有了這些新技術(shù)，人們的生活與經(jīng)濟(jì)發(fā)展才不斷得以改善，其影響之深遠(yuǎn)，已超出人們的想象。

但是，公眾對(duì)技術(shù)越來越心存恐懼和顧慮，互聯(lián)網(wǎng)企業(yè)不能對(duì)此再不聞不問。人類需要自主決定權(quán)，但技術(shù)對(duì)此構(gòu)成了威脅。如果科技行業(yè)解決不了這個(gè)問題，就可能會(huì)激起消費(fèi)者的持續(xù)憤怒，并招致后續(xù)的嚴(yán)格監(jiān)管。例如，現(xiàn)在越來越多的政府官員要求算法有更高的透明度，這將是對(duì)創(chuàng)新的強(qiáng)大約束。相比之下，我們?cè)诒疚闹刑岢龅膸醉?xiàng)用于保護(hù)自主決定權(quán)的措施則要溫和得多。

激進(jìn)的變革并無必要。但如果只是把一兩件小事的控制權(quán)交到消費(fèi)者手里，那也明顯不夠。借用陀思妥耶夫斯基的話來說，要真正將“地下人”安撫好，我們要避免有任何舉動(dòng)威脅到人們對(duì)自主決定權(quán)的需求，同時(shí)把一些旨在幫助用戶重獲自我意識(shí)的應(yīng)用特點(diǎn)與功能整合起來，避免使人淪為鋼琴琴鍵。