假如算法有“偏見(jiàn)”

方師師

當(dāng)互聯(lián)網(wǎng)時(shí)代到來(lái)時(shí)，無(wú)數(shù)人預(yù)言互聯(lián)網(wǎng)會(huì)讓知識(shí)的獲取更容易、讓偏見(jiàn)與隔閡被打破、讓世界變得更平等。然而，在互聯(lián)網(wǎng)與人工智能加速發(fā)展的今天，偏激的觀點(diǎn)、人群之間的隔閡在網(wǎng)絡(luò)力量的助推下勢(shì)頭不減。這是為什么？

在生活中人們會(huì)發(fā)現(xiàn)，使用百度搜索引擎搜索關(guān)鍵詞，搜索結(jié)果頁(yè)面的前幾個(gè)鏈接會(huì)把搜索者引向百度自家的“百家號(hào)”;出差訂酒店的時(shí)候，不同的人用不同的手機(jī)打開(kāi)同一個(gè)App，看到的價(jià)格很可能不一樣;我的一個(gè)朋友在騰訊公司上班，他晚上加完班打車回家，如果把起點(diǎn)定在公司門口，比起定在公司旁百米左右的便利店，價(jià)格會(huì)高20%。這些現(xiàn)象說(shuō)明了一個(gè)問(wèn)題：跟日常生活緊密聯(lián)系在一起的互聯(lián)網(wǎng)算法，本身并不是非常“確切”的，算法中存在著某種“偏見(jiàn)”。

什么是算法？這個(gè)詞剛誕生的時(shí)候并沒(méi)有什么宏大的內(nèi)涵。公元820年，阿拉伯?dāng)?shù)學(xué)家提出“算法”，當(dāng)時(shí)它指的是“解決具體問(wèn)題的一個(gè)方法”。隨著純數(shù)學(xué)理論向應(yīng)用數(shù)學(xué)理論遷移，算法進(jìn)入各種各樣的應(yīng)用數(shù)學(xué)領(lǐng)域，后來(lái)又被計(jì)算機(jī)科學(xué)、社會(huì)學(xué)、法學(xué)、政策學(xué)等領(lǐng)域借用，逐漸開(kāi)始指向某種復(fù)雜的社會(huì)技術(shù)系統(tǒng)。這幾年，算法為大家所熟知，很可能是因?yàn)樗赶蛄烁鼮榫唧w的內(nèi)容：算法決策服務(wù)。比如，瀏覽網(wǎng)站時(shí)，它會(huì)給我們推薦各種各樣的商品;打開(kāi)資訊類App，它會(huì)推薦新聞或者短視頻;打開(kāi)地圖軟件，它會(huì)規(guī)劃前往目的地的路線……算法完成了一個(gè)將信息、算法和人三者聯(lián)系在一起的閉環(huán)。

這個(gè)閉環(huán)的最終目的，是幫助人從海量的信息當(dāng)中打撈出最有意義、最有用的內(nèi)容。和人做決策相比，算法確實(shí)具有更客觀、更公正、效率更高的優(yōu)點(diǎn)。但是如果算法出現(xiàn)錯(cuò)誤，就有可能造成風(fēng)險(xiǎn)。而且很多時(shí)候，我們?cè)谑褂酶鞣N各樣的App時(shí)，并不知道算法正在偷偷地幫我們做決策，這種隱蔽性意味著一旦它在重要領(lǐng)域出錯(cuò)，人們往往來(lái)不及補(bǔ)救。

那么算法到底存在哪些隱患？首先是技術(shù)層面的代碼錯(cuò)誤。當(dāng)年，計(jì)算機(jī)科學(xué)先驅(qū)格蕾絲·霍珀在使用機(jī)電式計(jì)算機(jī)馬克2號(hào)時(shí)出現(xiàn)設(shè)備故障。而導(dǎo)致這次故障的，竟是一只被卡在繼電器中的蟲子（bug）。此后，“bug”成為計(jì)算機(jī)領(lǐng)域的專業(yè)術(shù)語(yǔ)，意指漏洞。在生活中，程序員之間會(huì)相互調(diào)侃，比如程序員A看到B在寫代碼，也許就走過(guò)去用戲謔的語(yǔ)氣說(shuō)：“又在寫bug呀?！边@是因?yàn)槿撕图夹g(shù)之間的磨合始終處于探索階段，程序當(dāng)中出現(xiàn)錯(cuò)誤很常見(jiàn)，無(wú)法保證萬(wàn)無(wú)一失。

第二個(gè)隱患是算法偏差。大家在瀏覽網(wǎng)站、看視頻、使用各類應(yīng)用的時(shí)候，會(huì)發(fā)現(xiàn)這些網(wǎng)站好像非常“懂”自己，所推薦的內(nèi)容剛好就是自己喜歡的。這其實(shí)是一個(gè)概率問(wèn)題?？梢韵胂筮@樣一個(gè)場(chǎng)景：有一個(gè)不透明的袋子，里面有很多小球，小球的總數(shù)未知，小球的顏色也未知。如何搞清楚這個(gè)不透明的袋子里小球的顏色分布呢？對(duì)算法來(lái)講，我們就是不透明的袋子，我們各種各樣的興趣愛(ài)好就是袋子里面的小球。算法可以根據(jù)“已知小球”制定模型，去推測(cè)我們對(duì)什么事物感興趣。已知條件越多，算法的準(zhǔn)確率越高，但也不能保證百發(fā)百中。

第三個(gè)隱患是技術(shù)偏向。我們現(xiàn)在使用的手機(jī)設(shè)備、社交網(wǎng)絡(luò)等已經(jīng)取代了之前很多的媒介形式。加拿大媒介理論家馬歇爾·麥克盧漢認(rèn)為，人類經(jīng)歷了口語(yǔ)時(shí)代、書寫時(shí)代和電子媒介時(shí)代?？谡Z(yǔ)時(shí)代時(shí)，人是部落化的生存狀態(tài)，彼此都是認(rèn)識(shí)的。到了書寫時(shí)代，人和人之間在空間上就被隔離開(kāi)了?，F(xiàn)在到了電子媒介時(shí)代，尤其到了算法與社交媒體、互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)相結(jié)合的時(shí)候，人盡管在現(xiàn)實(shí)空間中相隔甚遠(yuǎn)，卻在互聯(lián)網(wǎng)這個(gè)虛擬空間里聯(lián)系緊密，很容易沉浸在自己所選擇、所構(gòu)建的小世界中無(wú)法自拔。這種情況也更容易滋生極端的情緒和思維。

第四個(gè)隱患是社會(huì)偏見(jiàn)。微軟推出過(guò)一個(gè)AI聊天機(jī)器人Tay，它僅在推特上線一天就被下架了。因?yàn)樵谏霞苤?，微軟的程序員希望Tay在開(kāi)放性的互動(dòng)中產(chǎn)生自己的觀點(diǎn)、意愿，沒(méi)有限制它的語(yǔ)言模式和交往模式。結(jié)果這個(gè)機(jī)器人在與人對(duì)話的過(guò)程中快速地“學(xué)”會(huì)了辱罵人類和發(fā)表關(guān)于種族歧視的言論。從這個(gè)案例可以看出，開(kāi)放環(huán)境中的數(shù)據(jù)里存在著大量的偏見(jiàn)和錯(cuò)誤認(rèn)知，放任機(jī)器去學(xué)習(xí)這樣的數(shù)據(jù)，我們無(wú)法保證它會(huì)變得更睿智、客觀。吊詭之處在于，由于大多數(shù)人對(duì)科學(xué)技術(shù)的信任，當(dāng)算法給出一個(gè)看似科學(xué)的結(jié)果，而這個(gè)結(jié)論恰恰符合了固有的成見(jiàn)時(shí)，我們不會(huì)去質(zhì)疑算法有沒(méi)有問(wèn)題，反而會(huì)用這個(gè)結(jié)果去鞏固成見(jiàn)。

面對(duì)算法“偏見(jiàn)”，人類應(yīng)該怎么辦？學(xué)界對(duì)AI技術(shù)價(jià)值觀討論的大體結(jié)論是，我們要糾偏，以此把算法變得更加人性化。也有學(xué)者提出，當(dāng)人類認(rèn)為算法應(yīng)該去除“偏見(jiàn)”的時(shí)候，應(yīng)該問(wèn)的是，人性是什么。這個(gè)問(wèn)題會(huì)觸及更深的思考。在社會(huì)心理學(xué)當(dāng)中有這樣的一個(gè)量表，它的縱坐標(biāo)是experience（代表人類對(duì)于外部世界的感知和體驗(yàn)），橫坐標(biāo)是agency（代表的是控制、把握，一些更加機(jī)械化的具有指標(biāo)性質(zhì)的東西）。人類處于這張坐標(biāo)圖的右上角，機(jī)器人處于中間偏下的位置，由此可以看出，人類對(duì)experience的要求非常高，人性處于一種不完備、不完美的狀態(tài)。那么，既然我們自己本身存在著許多不完美之處，為什么還要要求算法變得和我們一樣？

這個(gè)問(wèn)題也許不會(huì)有答案，算法的“偏見(jiàn)”不僅是技術(shù)的問(wèn)題，更是社會(huì)的、歷史的問(wèn)題。可以確定的是，在未來(lái)，算法和人類勢(shì)必處于一種共棲共生的關(guān)系當(dāng)中。也許，我們要問(wèn)的，不是“算法有偏見(jiàn)嗎”，而是如何定義“偏見(jiàn)”。判斷“偏見(jiàn)”的標(biāo)準(zhǔn)從何而來(lái)？對(duì)人性是不是應(yīng)該有一些反思？既然沒(méi)有辦法一勞永逸地解決問(wèn)題，那么我們的思考方式可能需要一些轉(zhuǎn)變。

（孤山夜雨摘自《新華日?qǐng)?bào)》2020年1月10日，勾 犇圖）